(3x+7y)^2=10y (3x+7y)^2=10x это система заранее

(3x+7y)^2=10y
(3x+7y)^2=10x

Левые части равны, значит и правые тоже:
10x=10y отсюда
x=y
Решаем дальше:
Подставим вместо y - x:
(3x+7x)^2=10x
9x^2+42x^2+49x^2-10x=0
100x^2-10x=0
10x*(10x-1)=0        
10x=0           10x-1=0
x=0/10          10x=1
x=0               x=1/10
                    x=0.1

Т.к. x=y то ответ:  (0;0);(0.1;0.1)