y = 2x^3 - 3x^2 - 12x + 1 – это кубическая функция, проверим имеет ли она максимумы и минимумы, для этого найдем производную и приравняв у нулю, найдем промежутки возрастания и убывания. Если они имеются.
y = (2x^3 - 3x^2 - 12x + 1)’ = 6x^2 – 6x – 12;
6x^2 – 6x – 12 = 0;
x^2 – x – 2 = 0;
D = b^2 – 4ac;
D = (- 1)^2 – 4 * 1 * (- 2) = 1 + 8 = 9; √D = 3;
x = (- b ± √D)/(2a);
x1 = (1 + 3)/2 = 4/2 = 2;
x2 = (1 - 3)/2 = - 2/2 = - 1
Точки с абсциссами (- 1) и 2 – являются экстремумами, но ни одна из них не принадлежит промежутку [4; 5]. Значит наибольшее значение функции будет либо в точке 4, либо в точке 5.
y(4) = 2 * 4^3 – 3 * 4^2 – 12 * 4 + 1 = 128 – 48 – 48 + 1 = 129 – 96 = 33
y(5) = 2 * 5^3 – 3 * 5^2 – 12 * 5 + 1 = 250 – 75 – 60 + 1 = 251 – 135 = 116 – это наибольшее значение функции на интервале [4; 5].
ответ. max [4; 5] y = у(5) = 116.

возможно 5 случая:
1) допустим, х-отрицательное, а y положительноетогда сумма (3x+4y) будет отрицательной, а произведение (3x+4y)(3x+4y) будет положительно.(тоже самое будет, если наоборот y-отрицательное, а x положительное)
2) допустим, х и y отрицательные,тогда сумма (3x+4y) будет положительна и произведение (3x+4y)(3x+4y) тоже будет положительно.
3) допустим, х и y положительные, тогда сумма (3x+4y) будет положительна и произведение (3x+4y)(3x+4y) соответственно будет положительно
4) допустим любая из переменных x или y=0, тогда независимо от неравной нулю переменной произведение (3x+4y)(3x+4y) будет положительно
и 5) самый простой случай, когда и х и y =0, тогда и сумма и произведение будут равны нулю, т.е. неотрицательны.
во всех 4х случаях выходит, что выражение неотрицательно, ч.т.д.