с самостоятельной по алгебре

Тут есть хитрость

Казалось бы, можно (x - 3) сократить, и получится y = 1/x.
Но в начальной функции x = 3 не входит в область определения.
Поэтому в этой точке будет устранимый разрыв, то есть прокол.
Точка A(3; 1/3) выколота из графика y = 1/x.
Прямая y  = kx пересекает гиперболу в 2 точках при любых k, кроме одного значения: когда прямая проходит через точку A(3; 1/3).
1/3 = k*3; k = 1/9 - вот при этом значении будет одно пересечение.
Всё. Результат на рисунке.
Я не знаю, как вы нашли 3 корня, но очевидно, что метод - неправильный.

 9x²- 4y² = 5.

 (3х)²-(2у)²=5

(3х-2у) *(3х+2у) = 5

5 - число простое.

Произведение его множителей имеет 4 варианта из целых чисел: 

5 = 1 · 5

5 = 5 · 1

5 = (-1) · (-5)

5 = (-5) · (-1)

Рассмотрим каждый из вариантов.

1 вариант.

(3х-2у) *(3х+2у) = 1*5

Получаем систему:
{3х-2у = 1
{3х+2у = 5
Сложим эти уравнения и получим:

3х-2у+3х+2у=1+5
6х = 6

х=1

Подставим х=1 во второе уравнение 3х+2у=5 и найдём у. 
3*1+2у =5

2у=5-3

у=2 : 2
у=1
Получаем первую пару целых чисел:

х=1
у=1

2 вариант

(3х-2у) *(3х+2у) = 5*1

Получаем систему:
{3х-2у = 5
{3х+2у = 1
Сложим эти уравнения и получим:
6х=6

х=1

Подставим х=1 во второе уравнение 3х+2у=5 и найдём у. 

3*1+2у=1

2у=1-3
2у = -2
Получаем вторую пару целых чисел:
х=1
у=-1

3 вариант

(3х-2у) *(3х+2у) = (-1) · (-5)

Получим систему:
{3х-2у = -1
{3х+2у = -5
Сложим эти уравнения и получим:
6х = -6

х=-1

 Подставим х= -1 во второе уравнение 3х+2у=5 и найдём у. 
3*(-1) +2у = -5

2у=-5+3
2у=-2

у=-1
Получаем третью пару целых чисел:
х = -1
у = -1

4 вариант

(3х-2у) *(3х+2у) = (-5) · (-1)

Получим систему:
{3х-2у = -5
{3х+2у = -1
Сложим эти уравнения и получим:
6х = -6

х=-1

Подставим х= -1 во второе уравнение 3х+2у=5 и найдём у. 
3*(-1)+2у = -1

2у=3-1

у=1
Получаем четвёртую пару целых чисел:
х = -1
у = 1

ответ: (1; 1), (1; -1); (-1; -1); (-1; 1)