Пример это система х^2 - 2xy +y^2 = 4 x^2+xy = 4

Вычитаем из первого уравнения второе:
y^2 - 3xy = 0
y (y - 3x) = 0 
y = 0 или y = 3x

1) y = 0.
Подставляем во второе уравнение:
x^2 + 0 = 4
x = +-2
2) y = 3x
Подставляем во второе уравнение:
x^2 + 3x^2 = 4
x^2 = 1
x = +-1
соответствующие значения y = +-3

ответ: (+-2, 0), (+-1, +-3).