y''-2y+5y=0
k^2-2k+5=0
уравнение имеет комплексные корни
k1=1+2i
k2=1-2i
Общее решение.(cм. в частности Пискунов Дифференциальное и интегральное исчисление т.2) Там же есть решение подобного уравнения
y=e^x(C1cos2x+C2sin2x)
y1=e^x*cos2x y1'=e^x*cos2x-2*e^x*sin2x
y2=e^x*sin2x y2'=e^xsin2x+2e^xcos2x
Решаешь систему
С1'y1+C2'y2=0
C1'y1'+C2'y2'=cos7x
находишь С1 и С2 как функции от x.
Cумма частного решения и ощеггорешения однородного уравнения и есть окончательный ответ.
Итак получается ответ
y(x) = exp(x)*sin(2*x)*_C2+exp(x)*cos(2*x)*_C1-(11/533)*cos(7*x)-(7/1066)*sin(7*x)
