Каковы должны быть коэффициенты "а" и "b" чтобы функция y=ax^2+bx+1 принимала при x=-1 наибольшее значение, равное 5?

Получаем систему:

ответ: а=-4; b=-8

Исходя из условия, делаем следующие выводы:
1) заданная функция - квадратичная, ее график - парабола, ветви которой направлены вниз
2) х=-1 - вершина параболы, у(-1)=5
3) У(0)=1
Из этого следует, что данную функцию можно представить в виде  

Применим условие у(0)=1:

Т.к. абсцисса вершины параболы имеет формулу , то

ответ: а=-4, b=-8.