№1 систему методом розкладання за елементами першої строки; №2 - методом трикутника;
№3 - методом Гаусса
p.s. Можете хоч всі три системи розвязувати кожним методом, за кожну систему окрема оцінка. Якщо хтось напише матрицю і відповідь без розвязання - не розглядатиму!

1.Если эти окружности касаются внешним образом. то расстояние между центрами равно сумме радиусов этих окружностей. Пусть коэффициент пропорциональноти равен х>0, тогда 3х+5х=16, откуда х=2, тогда радиус меньшей окружности равен 3*2=6/см/, а радиус большей 5*2=10/см/.

2. Если же окружности касаются внешним образом, то расстояние между их центрами равно разности между радиусом  большей и меньшей окружностей соответственно. т.е. 5х-3х=16, откуда х=8, тогда радиус меньшей окружности равна 3*8=24/см/,а радиус большей окружности 5*8=40 /см/

ответ. задача имеет два решения. R=10cм ; r=6см

R=40см; r=24см

Проведём радиусы ОА и ОД  окружности описанной около треугольника АDF(смотри рисунок). Угол АОД окружности (на рисунке не показана)-центральный, а АFД –вписаный. Но они оба опираются на одну дугу АД. То есть угол АОД в два раза больше угла АFД(условно обозначен 1). Треугольник АОД- равнобедренный(АО и ОД радиусы), высота ОЕ делит угол АОД пополам. Отсюда угол ОАЕ=90-угол1. Далее- угол  СВД равен углу АFВ как накрест лежащие поскольку АF параллельна ВС. Но угол СВД равен углу САД поскольку они оба опираются на дугу СД. Тогда угол ОАС =угол САД+ угол ОАД=угол1+угол90-угол1=90градусов. То есть радиус ОА окружности описанной около АДF перпендикулярен АС. А это значит , что окружность касается этой прямой.