CA = 6 см, CB = 10 см.

(Дроби сокращай.)

tg∢B=

tg∢A=

Треугольник АВС, уголС=90, СР-высота, треугольники АРС и СВР прямоугольные, радиус вписанной окружности в ВСР=60, tgA=4/3, sinA=tgA/корень(1+tgA в квадрате)=(4/3)/корень(1+16/9)=4/5, cosA=1/корень(1+tgA в квадрате)=1/корень(1+16/9)=3/5, 
ВС=АС*tgA=АС*4/3=4АС/3, СР=АС*sinA=АС*4/5=4АС/5, АВ=АС/cosA=АС/(3/5)=5АС/3, ВР=ВС в квадрате/АВ=(16*АС в квадрате/9)/(5АС/3)=16АС/15, радиус вписанной окружности в ВСР=(СР+ВР-ВС)/2, 60=(СР+ВР-ВС)/2, 120=(4АС/5)+(16АС/15)-(4АС/3), 120=8АС/15, АС=225, ВС=4*225/3=300, АВ=5*225/3=375, радиус вписанной в АВС=(ВС+АС-АВ)/2=(300+225-375)/2=75

Пусть дан вписанный треугольник АВС.
Вписанный <ABC=120°. Он равен половине градусной меры дуги, на которую опирается. Значит дуга АС=240°. Тогда дуга АВС=360°-240°=120°
Центральный угол АОС=120°, так как равен градусной мере дуги, на которую он опирается.
Тогда в равнобедренном треугольнике АОС углы <АСО=<CAO (углы при основании)=(180°-120°):2=30°.
Опустим перпендикуляр ОН на хорду АС. По свойству этого перпендикуляра, он делит хорду пополам. В прямоугольном треугольнике АОН против угла 30° лежит катет, равный половине гипотенузы, то есть ОН=(1/2)*R или ОН=3.
Тогда АН=√(36-9)=3√3 (по Пифагору).
АВ=2*АН или АВ=6√3. Это ответ.