−13d(13d+13)+(13d−13)(13+13d)

Решение
Точки A(10; - 5) ; B(-2 ; 1) являются концами диаметра окружности.
1)Находим координаты точки O(xo;yo) - центра окружности
O(( 10 - 2)/2; ( - 5 + 1)/2)
O( 4; - 2)
2)Находим координаты вектора АВ:
AB={-2-10);1-(-5)) = ( - 12; 6)
3 )Находим диаметр окружности. Это длина отрезка АВ:
d = |AB| = √((-12)² + 6²)) = √(144 +36 ) = √180 = 6√5
4) Находим радиус окружности: 
R = d/2 =( 6√5) / 2 = 3√5
5)Составим уравнение окружности:
(x - xo)² + (y - yo)² = R²
(x - 4)² + (y - (-2))² = (3√5)²
(x - 4)² + (y + 2)² = 45

{х² + у² + ху = 7 
{х + у + ху = 5        

Сложим эти два уравнения
х² + у² + ху + х + у + ху = 7 + 5
(х² + 2ху + у²) + (х + у) = 12
(х + у)² + (х + у) - 12 = 0

Делаем подстановку х + у = t
Получаем квадратное уравнение
t² + t - 12 = 0
D = 1 - 4 * 1* (-12) = 49 = 7²
t1 = (-1 -7)/2 = - 4
t2 = ( - 1 + 7)/2 = 3
1)  
Выполним обратную подстановку для  t = х + у, получим при t1 = -4
  х + у = - 4
Выразим у = - х - 4
Подставим во второе уравнение 
х + (- х - 4) + х* (-х - 4) = 5  
х - х - 4 - х² - 4х = 5
Получим квадратное уравнение
х² +4х + 9 = 0
D = 16 - 4 * 1 * 9 = 16 - 36 = - 20 < 0 корней нет
2) 
Выполним обратную подстановку для  t = х + у, получим при t2 = 3
 1) х + у = 3
Выразим у = - х +3
Подставим во второе уравнение 
х + (- х +3) + х* (-х +3) = 5  
х - х + 3 - х² + 3х = 5
Получим квадратное уравнение
х² - 3х + 2 = 0
D = 9 - 4 * 1 * 2 = 1
√D = √1 = 1
х1 = (3 + 1)/2 = 2
х2 = (3 - 1)/2 = 1
При х1 = 2 находим у1 = -2 + 3 = 1 
При х2 = 1 находим у2 = - 1 + 3 = 2
ответ: {2;  1} и {1;  2}