методом подбора. 3 последовательных чётных числа надо возвести в квадрат и найти сумму. пробуем, начиная с наименьшего:
2^2+4^2+6^2=56 - не подходит
4^2+6^2+8^2=116
эти числа 4, 6 и 8.
