Фигурная скобка ×+у=5 и ниже х-у во второй =3

X+y=5
x-y²=3
это система уравнений с двумя неизвестными, решим методом сложения-вычитания
из первого уравнения вычтем второе получим 
x+y-x+y²=5-3 упростим

y²+y-2=0 это квадратное уравнение решаем по формуле корней квадратного уравнения у1-2=(-b+-√(b²-4ac))/2a
y1-2=(-1+-√(1+4*2))/2=(-1+-3)/2={1;-2}

1) значение y=1 подставим в первое уравнение системы х+у=5 и найдем х 
 х+1=5     х=4
2) значение у=-2 подставим в первое уравнение системы х+у=5 и найдем х 
х-2=5   х=7

система уравнений имеет 2 решения первое  (4,1), второе (7,-2)

проверка
4+1=5
4-1=3

7-2=5
7-4=3
все правильно