Тогда получится так:
1-cos^2x+2cos^2x-5cosx-7=0
cos^2x-5cosx-6=0
cosx=t
t^2-5t-6=0
D=25+24=49
t1=(5+7)/2*1=12/2=6
t2=(5-7)/2*1=-2/2=-1
cosx=6 не имеет значения потому что cos принимает значения [-1;1]
cosx=-1
x=п+2пn , n∈Z
