Этими числами будут 4, 3 и 1.
Для начала, рассмотрим 5. В квадрате оно даёт 25, т.е. самое большое должно быть меньше 5.
Рассмотрим 4 и 2.
4^2=16
26-16=10
10=x^2+(x-2)^2
Отсюда 3 и 1.
