4cos^2x+3cosxsinx-10sin^2x=0 там где галочки то 2 в квадрате

Для начала делим все произведение на COSx, при этом найдя ОДЗ для косинуса (Не равно нулю!). ОДЗ будет х не равно пи/2+пи*n, n принадлежит Z.
Получим 4 + 3tg x - 10 tg^2(x)  = 0 умножаем на (-1) 
10tg^2 (x) - 3tgx - 4=0. Заменяем tg x = t. и решаем квадратное уравнение относительно t.
10t^2 - 3t - 4 = 0 
t1 = (3-13)\ 20 = - 0.5
t2 = 0.8
 подставляем полученные значения вместо tgx=t
tgx= - 0.5
x = arctg (-0.5) + Пи*n, n принадлежит Z
x = - arctg 0.5 = ПИ*n? n принадлежит Z
tg x = 0.8
x = arctg 0.8 + Пи*n, n принадлежит Z