Я бы разложил на две скобки
x^3-6x+5=0
(x-1)(x^2+x-5)=0
Потоп приравнял каждую к нулю и нашёл все три корня.
Тут такие:
1
0.5(-1-sqrt21)
0.5(sqrt21-1)
