Сократите дробь
(в-а)^3/(2-в)^2

Пусть х км в час - собственная скорость катера,
тогда (х+4) км в час - скорость катера по течению,
(х-4) км в час  - скорость катера против течения.

12/(х+4) час.- время по течению;
4/(х-4) час. - время против течения.
Всего катер затратил 2 часа.
Составляем уравнение:
(12/(х+4)) + (4/(х-4))=2;
так как х≠-4 и х≠4 ( иначе катер не сможет плыть против течения)
умножаем на (х+4)(х-4)≠0
12(х-4) + 4(х+4) =2(х-4)(х+4);
12х-48 +4х+16=2х²-32;
х²-8х=0
х(х-8)=0
х=0  или  х=8
х=0 не удовлетворяет условию задачи.
О т в е т. 8 км в час - собственная скорость катера.

(x-xo)²+(y-yo)²=R² - уравнение окружности,
где (хо; уо) - центр окружности, R - радиус окружности

А(3;1) и В(-1;3) - точки окружности => 
{ (3-xo)²+(1-yo)²=R²
{ (-1-xo)²+(3-yo)²=R²  => (3-xo)²+(1-yo)²=(-1-xo)²+(3-yo)²
По условию, центр окружности лежит на прямой 3x-y-2=0 => y=3x-2 => yo=3xo-2
Подставляем найденное уо в равенство (3-xo)²+(1-yo)²=(-1-xo)²+(3-yo)², получим:
(3-xo)²+(1-3xo+2)²=(-1-xo)²+(3-3xo+2)²
(3-xo)²+(3-3xo)²=(1+xo)²+(5-3xo)²
9+xo²-6xo+9+9xo²-18xo=1+xo²+2xo+25+9xo²-30xo
18-24xo=26-28xo
4xo=8
xo=2
yo=3*2-2=6-2=4
S(2;4) - центр окружности
Находим квадрат радиуса окружности:
R²=(3-2)²+(1-4)²=1²+(-3)²=1+9=10
Запишем полученное уравнение окружности:
(x-2)²+(y-4)²=10