Все правильно решено и формула правильно применена . Только не закончено:
cos 3pi = -1.
= cos (6a-a) (по формуле сложения) = cos5a
при a=3П/5
cos5*3П/5= cos3П
не знаю, правильно ли, но алгоритм действий точно такой))
