Возможно в задании ошибка не sin(5пи), а sin(5пиx)
если так, то
cos^2( x) + cos^2(pi/2-x)+sin(5pix)=0
cos^2(x)+sin^2(x)+sin(5pix)=0
1+sin(5pix)=0
sin(5pix)=1
5pix=(pi/2)+2pin
x=(1/10)+2n/5
