Решите систему x+y+z=0 xy+yz=-1 x^2+y^2+z^2=6

Так вроде не трудно... из первого уравнения можно записать:
x = -(y+z)
подставим во второе...
-(y+z)*y +yz = -1
-y^2 - yz + yz = -1
y^2 = 1
y = +-1
тогда или x = -1-z   или   x = 1-z
осталось третье уравнение...
(-1-z)^2 + 1 + z^2 = 6   или   (1-z)^2 + 1 + z^2 = 6
z^2 + z - 2 = 0   или   z^2 - z - 2 = 0 
z1 = -2   z2 = 1   или   z3 = -1   z4 = 2
x1 = 1    x3 = -2  или   x5 = 0    x7 = -3
x2 = 3    x4 = 0           x6 = 2    x8 = -1
ответы:
(1; 1; -2), 
(-2; 1; 1),
(2; -1; -1),
(-1; -1; 2) --- просто постараться не перепутать... аккуратно записать...
и проверить... эти возможные сочетания корней не подходят --- не удовлетворяют третьему уравнению
(т.к. при возведении в квадрат возможно появление лишних корней...)))
(0; 1; -1),
(-3; 1; 2),
(3; -1; -2), 
(0; -1; 1)