Знайдіть суму всіх трицифрових натуральних чисел, які при діленні на 3 дають в остачі 2

План действий такой: 1) ищем производную
                                      2) приравниваем её к нулю и решаем получившееся уравнение
                                      3) Смотрим: какие корни попали в указанный промежуток и ищем значения данной функции в этих точках и на концах данного отрезка;
                                       4) пишем ответ.
Поехали?
1) f'(x) = ((x² -8x)'(x+1) - (x² -8x)(x+1)')/(x+1)²=
 ((2x-8)(x+1) - (x²-8x))/(x+1)²= (2x² -8x +2x -8 - x² +8x)/(x+1)²=
=(x² +2x -8) / (х+1)²
2)(x² +2x -8) / (х+1)² ⇒ x² +2x -8 =0, ⇒ х = - 4   и   х = 2
3) Из найденных корней в указанный промежуток попало  х = -4
а) х = -4
f(-4) = (-4)² -8*(-4) /(-4+1) = 48/(-2) = -24
б) х = -5
f(-5) = (-5)² -8*(-5) /(-5+1) = 65/(-4) = -13,75
в) х = -2
f(-2) = (-2)² -8*(-2)/(-2+1) = 20/(-1) = -20
4) maxf(x) = f((-2) = -20
    minf(x) = f(-4) = -24

1-ый случай, когда a>0, b>0, тогда точка A лежит в 1-ой координатной четверти. Следовательно, точка B лежит в 3-ей координатной четверти и не принадлежит графику функции y=x^2, так как это парабола, и обе ее ветви лежат в 1-ой и 2-ой к.четвертях.
2-ой случай, когда a>0, b<0, тогда точка A лежит в 4-ой координатной четверти. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.
3-ий случай, когда a<0, b>0, тогда точка A лежит в 2-ой координатной четверти. Следовательно, точка B лежит в 4-ой координатной четверти и не  принадлежит графику функции y=x^2.
4-ый случай, когда a<0, b<0, тогда точка A лежит в 3-ей к.ч. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.

Если тебя не просят рассматривать случаи с различными знаками a и b, то доказательство идет другое. 
Координаты точки A имеют положительные знаки, отсюда следует, что она находится в первой координатной четверти.
Координаты точки B имеют отрицательные знаки, отсюда следует, что она лежит в 3-ей координатной четверти, а значит, она не может принадлежать графику функции. Это будет отчетливо видно, если ты посмотришь на график этой функции.