Необходимо представить в виде произведения

Радиус вписанной в многоугольник окружности равен отношению его площади к полупериметру
r=S:p, где р - полупериметр
Треугольник тоже многоугольник, и радиус вписанной в него окружности найдем по этой формуле.
Чтобы найти площадь треугольника, нужно знать его третью сторону, основание. 
Высота известна, боковая сторона - тоже.
Высота делит равнобедренный треугольник на два равных прямоугольных, в которых боковая сторона - гипотенуза. высота и половина основания - катеты..
Найдем половину основания по т.Пифагора:
0,5а=√(225-144)=9 см
Основание равно 2*9=18 см
Площадь треугольника  
S=ah:2=18*12:2=108 см²
полупериметр
р=(18+30):2=24
r=108:24=4,5 см

Треугольник равнобедренный. Для вписанной в равнобедренный треугольник окружности, когда известны все стороны и высота, можно вывести  формулу: 
r=0,5*bh:0,5(2a+b)
или произведение высоты на основание, деленное на периметр.
r=bh:Р 
r=18*12:(30+18)=4,5

1-ый случай, когда a>0, b>0, тогда точка A лежит в 1-ой координатной четверти. Следовательно, точка B лежит в 3-ей координатной четверти и не принадлежит графику функции y=x^2, так как это парабола, и обе ее ветви лежат в 1-ой и 2-ой к.четвертях.
2-ой случай, когда a>0, b<0, тогда точка A лежит в 4-ой координатной четверти. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.
3-ий случай, когда a<0, b>0, тогда точка A лежит в 2-ой координатной четверти. Следовательно, точка B лежит в 4-ой координатной четверти и не  принадлежит графику функции y=x^2.
4-ый случай, когда a<0, b<0, тогда точка A лежит в 3-ей к.ч. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.

Если тебя не просят рассматривать случаи с различными знаками a и b, то доказательство идет другое. 
Координаты точки A имеют положительные знаки, отсюда следует, что она находится в первой координатной четверти.
Координаты точки B имеют отрицательные знаки, отсюда следует, что она лежит в 3-ей координатной четверти, а значит, она не может принадлежать графику функции. Это будет отчетливо видно, если ты посмотришь на график этой функции.