Пусть первый катет-х, второй-у, c-гипотенуза
по т. пифагора (квадрат гипотенузы равен сумме квадратов катетов)
с²=у²+х²
система
х-у=14
26²=у²+х²
из первого уравнения выразим х
х=14+у
подставим во второе
26²=у²+(14+у)²
676=у²+14²+2*14*у+у²
676=2у²+196+28у
676-2у²-196-28у=0
480-2у²-28у=0 (делим все на (-2))
у²+14у-240=0- это приведенное уравнение
по т.виета
y₁+y₂=-14
y₁*y₂=-240
y₁=-24 (не подходит, <0)
y₂=10 cm
подставим то, что у нас получилось в подстановку
х=14+10
х=24 cm
площадь (произведение катетов деленное на 2)
S=xy/2
S=24*10/2
S=120 cm²
Так как окружность касания осей координат, то для координат ее центра и радиуса окружности справделиво равенство
учитывая, что окружность проходит через точку (8;-4) опускаем модуль (окружность за исключением точек касания находится в IV четверти) 
уравнение окружности имеет вид (x-x_0)^2+(y-y_0)^2=R^2
;
R=20 или R=4
значит существуют две окружности проходящие через точку (8;-4) и касающееся осей координат

и 
вторая задача, пряммая симетричная относительно точек А и В - середнинный перпендикуляр
Ищем координаты середины отрезка АВ,

(0;2)
ищем уравнение пряммой АВ в виде y=kx+b
3=-2k+b;
1=2k+b;
2=-4k
1=2k+b;
k=-0.5
b=2;
y=-0.5x+2
перпендикулярные пряммые связаны соотношением угловых коэффициентов
k_1k_2=-1
поєтому угловой коєффициент искомой пряммой равен k=-1/(-0.5)=2
учитывая что искомая пряммая проходит через точку С ищем ее уравнение в виде
y=kx+b (k=2)
2=2*0+b;
b=2
y=2x+2 или y-2x-2=0
в чем ошибка у вас - неведомо, ибо вы своего решения не предоставили