На прямі MN узяті три точки АОВ

Площадь прямоугольного треугольника равна 84 дм², а радиус окружности, вписанной в этот треугольник, 3см. Найти катеты треугольника. 

Пусть дан треугольник АВС, угол С=90º

Точки касания вписанной окружности на АС- точка К, на ВС - точка Н, на гипотенузе АВ- точка М. 

Пусть АК=х, ВН=у. 

Тогда по свойству отрезков касательных из одной точки АМ=х, ВМ=у

АВ=х+у

АС=х+3, ВС=у+3

Формула радиуса вписанной окружности

r=S:p, где r -радиус, S - площадь треугольника. р- его полупериметр

р=х+у+3

3=84:(х+у+3)

х+у+3=28⇒

х+у=25

у=25-х

АВ=х+у=25 дм

АС=х+3

ВС=25-х+3=28-х

По т.Пифагора

(х+3)²+(28-х)²=625

Произведя вычисления и приведя подобные члены, получим квадратное уравнение

х²-25х+84=0

D=25²-4·84=289

Решив уравнение, найдем два корня: 21 и 4

АС=21+3=24 дм

ВС=28-21=7 дм

Кстати, длины сторон этого треугольника из Пифагоровых троек, где стороны относятся как 7:24:25

Сначала по теореме Пифагора найдем гипотенузу

Так, теперь рассмотрим треугольник ABC (который основной) и ABH например( если что, то AH это высота. нарисуй треуг. что бы потом не запутаться)
прямоугольный треуг. с проведенный к гипотенузе высотой делится на 3 подобных треугольника.( там по 2 углам получается) 
поэтому наш ABC подобен треуг. ABH. 
Еще раз повторю, нарисуй трег. чтобы видеть, что чему подобно.
Найдем коэффициент подобия
- то и есть коэффициент подобия этих треуг.
AB тут выступает в роли гипотенузы треугольник ABH, надеюсь это понятно.
теперь остается найти высоту

как-то так