cosα*cos2α-cos3α=cosα*cos2α-cos(α+2α)=cosα*cos2α-cosα*cos2α+sinα*sinβ=sinα*sinβ
Использовал формулы косинуса суммы двух аргументов,
сos(α+β)=cosα*cosβ-sinα*sinβ, вместо β брал 2α
