Сумма первых трех членов прогрессии равна 12, а сумма их квадратов равна 336. найдите первый член и знаменатель прогрессии.

Запишем условие в виде системы
b+bq+bq^2=12
b^2+b^2q^2+b^2q^4=336

вынесем множители
b(1+q+q^2)=12
b^2 (1+q^2+q^4)=336

преобразуем
b (q^3-1)/(q-1)=12
b^2 (q^6-1)/(q^2-1)=336

преобразуем последнее уравнение
b^2 (q^3-1)/(q-1) (q^3+1)/(q+1)=336

подставим первое уравнение во второе
b (q^3+1)/(q+1)×12=336
упростим
b (q^3+1)/(q+1)=28

преобразуем
28 (q+1)/(q^3+1)=12 (q-1)/(q^3-1)
введем ОДЗ q <>1 и q <>-1

преобразуем числитель разности дробей
28(q^2+q+1)=12 (q^2-q+1)

приведем подобные слагаемые
16q^2+40q+16=0

решим уравнение
q^2+2.5q+1=0
D= 6.25-4×1=2.25
q=(-2.5+1.5)/2=-0.5

q=(-2.5-1.5)/2=-2

найдем b для корня 1
(-8-1)/(-2-1)b=12
3b=12
b=4

найдем b для корня 2
(-0.125-1)/(-0.5-1)b=12

1.125/1.5b=13
9b/12=12
b=144/9

ответ 1 b=4 q=-2
ответ 2 b=144/9 q=-1/2