Внутри окружности Ω радиуса 9 с центром в точке O выбраны точки A и B такие, что OA=2, OB=3 и точка A лежит на отрезке OB. На отрезке AB, как на диаметре, построена окружность ω. При инверсии относительно Ω окружность ω переходит в ω′. Найдите радиус ω′.

В тр-ке АВС ∠С=90. ОК, ОМ, ОН - радиусы, проведённые к сторонам АВ, ВС и АС соответственно. АК=14.4 см, ВК=25.6 см.
Тр-ки АОК и АОН равны по признакам подобия и общей стороне, значит АН=АК=14.4 см
Точно так-же ВМ=ВК=25.6 см
СН=СМ=R
АС=АН+СН=14.4+R
ВС=ВМ+СМ=25.6+R
Площадь тр-ка АВС можно посчитать по двум формулам:
1) S=АК·КВ=14.4·25.6=368.64 см² - формула подходит при  вписанной окружности в прямоугольный тр-ник.
2) S=АС·ВС/2
(14.4+R)(25.6+R)/2=368.64
R²+40R-368.64=0
R1≈-47.72  - отрицательное значение не подходит,
R2≈7.72 см.

P.S. ответ не целый, но всё проверено.

  Обозначим вершины трапеции АВСD.  Стороны: АВ=15, ВС=16, СD=20, AD=41. Из вершины С проведем СК параллельно АВ. Тогда АВСК - параллелограмм, и СК=15 см, АК=ВС=16 см, КD=AD-AK=25 см. Отношение сторон ∆ СКD=15:20:25, т.е. 3:4:5. ⇒ ∆ КСD - так называемый египетский, он прямоугольный. Площадь ∆ КСD=KC•CD:2=150 см². Тогда его высота СН=2S:KD=300:25=12 см (она же высота трапеции АВСD). Площадь трапеции равна половине произведения высоты на сумму оснований.  S(ABCD)=CH•(BC+AD):2=12•57:2=342 см²

Подобных задач с полным и правильным ответом на сайте немало. При желании можно найти другие варианты решения.