по формуле дополнительного угла, получим, что
5сos2α+12sin2α=13(5/13 сos2a+12/13 sin2a)=13sin(2a+b), где sinb=5/13, сosb=12/13
(13 получено как значений корня квадратного из суммы квадратов чисел 5 и 12)
