У выражение.
(cos a - sin a)^2 + 2 sin a • cos a.

X^2 - 2ax + 2a = 0
1) найдем те значения параметра, при которых кв.трехчлен имеет корни:
4a^2 - 4*2a >= 0
a^2 - 2a >= 0 ---> a∈(-∞; 0] U [2; +∞)
2) по т.Виета сумма корней уравнения равна (2а)
произведение корней уравнения тоже (2а)
с т.Виета можно так записать сумму квадратов корней:
(x1)^2 + (x2)^2 = (x1)^2 + (x2)^2 + 2*(x1)*(x2) - 2*(x1)*(x2) = 
(x1 + x2)^2 - 2*(x1)*(x2) = (2a)^2 - 2*(2a) = 4a^2 - 4a
вопрос задачи можно записать так: при каких (a)
2a = 4a^2 - 4a
4a^2 - 6a = 0
2a^2 - 3a = 0
a(2a - 3) = 0
a1 = 0 ∈(-∞; 0] U [2; +∞)
a2 = 1.5 ∉(-∞; 0] U [2; +∞)
ответ: а=0

Рассмотрим два числа A и В 

Пусть A=a²+b² B=c²+d²  Надо доказать что A*B=x²+z²

A*B=(a²+b²)*(c²+d²)=a²c² + a²d² + b²c² + b²d² = (a²c² + b²d²) + (a²d² + b²c²)  + 2*abcd - 2*abcd = *
1. * = (a²c² +2*ac*bd  +b²d²) + (a²d²  - 2*ad*bc+ b²c²)  = (ac + bd)² + (ad - bc)²

2. *=  (a²c² - 2*ac*bd  +b²d²) + (a²d²  + 2*ad*cd+ b²c²)  = (ac - bd)² + (ad + bc)²

Таким образом нашли x₁₂ = ac + - bd  и z₁₂ = ad - + bc    

доказали что если каждое из двух чисел  представимо в виде суммы квадратов двух натуральных чисел, то их произведение также можно разложить в сумму квадратов двух целых чисел