Если разность числа и его квадрата принимает наибольшее значение то это число равно

F(x) = x*x - x 
это парабола, ветви вверх, сверху не ограничена, максимальное значение при x-> + беск, равно +беск