Решить уравнение sin^2(x/2)-cos^2(x/2)=cos(2x) я преобразовала по формуле двойного угла и получила -cosx=2cos^2(x)-1 решила квадратное уравнение получила корни (после замены косинуса на t) t=1/2 и t= -1/ cosx=1/2, x=+-pi/3+2pi n, cosx = - 1, x = pi+2pi k. а в ответе получается где я допустила ошибку, объясните

В вашем решение ошибок нет. Если хотите получить такой ответ то .

sin^2(x/2)-cos^2(x/2)=cos(2x)
-cosx= cos2x
cos2x+ cosx =0
2cos((2x+x)/2)*cos((2x-x)/2)=0
cos(3x/2)*cos(x/2)=0
cos(3x/2)=0
3x/2 = пи/2+пи*k
x= пи/3+2пи*k/3
cos(x/2)=0
 x/2 = пи/2+пи*k
x= пи+ 2пи*k
Понятно что второй корень уравнения входит в первый корень.
Можно проверить подстановкой. 
Поэтому ответ можно записать
х= пи/3+2пи*k/3
Знак минус перед пи/3 не играет значения так как функция cosx от которой мы находили решение четная. 
ответ:  пи/3+2пи*k/3