Предположим, что такой квадратный трехчлен существует: f(x)=ax2+bx+c, a≠0, и f(x)≤f(x2). Имеем ax2+bx+c ≤ ax4+bx2+c при всех x, т.е. ax4-ax2+bx2-bx ≥0, ax2(x2-1)+bx(x-1) ≥0, и далее x(x-1)(ax(x+1)+b)≥0, x(x-1)(ax2+ax+b)≥0 при всех x. Утверждается, что трехчлен q(x)= ax2+ax+b имеет корни х=0 и х=1. Если бы, например, q(0)≠0, то в малой окрестности точки 0 трехчлен q(x)имел бы знак числа q(0), в то время как выражение x(x-1) меняет знак припереходе аргумента х через 0 и, следовательно, произведение x(x-1)q(x)меняет знак, что делает невозможным выполнение неравенства x(x-1)q(x)≥0. Аналогично, q(1)=0. Но q(x)=b, q(1)=2a+b. Значит, b=0, a=0. Получено противоречие (ведь a≠0). ответ: не существует.
