(x-2)(x+4)(2x-6)>0
-x²-4x-3<0

Пусть собственная скорость лодки x [км/ч], тогда скорость лодки по течению x+2 [км/ч] и против течения x-2 [км/ч]. 
Время, затраченное на первый отрезок пути: 16/(x-2) [ч], 
на второй отрезок пути: 12/(x+2) [ч]. 
Общее время в пути: 16/(x-2) + 12/(x+2) = 3 [ч] 
x <>2 и x <> -2, домножаем обе части уравнения на (x+2)*(x-2), получаем: 
16*(x+2) + 12*(x-2) = 3*(x+2)*(x-2) 
16*x + 32 + 12*x - 24 = 3* x^2 - 12, где x^2 = x*x 
28*x + 8 = 3* x^2 - 12 
3*x^2 - 28*x - 20 = 0 
Дискриминант: D = b^2 - 4*a*c = 28*28 - 4*3*(-20) = 1024 = 32^2 
x1 = (-b + sqrt(D))/(2*a) = (28 + 32) / 6 = 10 [км/ч] 
x2 = (-b - sqrt(D))/(2*a) = (28 - 32) / 6 = -2/3 [км/ч] 
Второй корень логически не имеет смысла, поэтому ответ: 10 км/ч.

Объяснение:

составим систему уравнений

b(5)-b(3)=1200 (1)

b(5)-b(4)=1000 (2)    ⇒   b(5)= 1000+b(4)   (2_2)

Добавим в систему третье уравнение   b(4)²=b(5)*b(3)   (3)

вычтем из уравнения (1)-(2) ⇒ b(4)-b(3)=200  ⇒  b(3)=b(4)-200  (4)

Подставим (2_2) в (3)

 b(4)²=(1000+b(4))*b(3)   Подставим вместо b(3)  уравнение (4)

b(4)²=(1000+b(4))*(b(4)-200)

b(4)²==1000b(4)+b(4)²-200000-200b(4)     [b(4)²  сократим]

800 b(4)=200000    b(4)=250

b(3)=250-200=50    b(3)=50

q=b(4)/b(3)=250/50=5   q=5

b(3)=b(1)*q²  ⇒  b(1)=50/25=2   b(1)=2

S(5)= b(1)(q^n-1)/(q-1)

S(5)=3125