аналитически
из второго уравнения выражаем х
х=5+2у
подставляем в первое уравнение вместо х
у=(5+2у)^2+1
у=2
у=13\4 (или три целых одна четвертая)
находим х
х=11.5
х=9
{9,2} и {11/5, 13\4}
