Решить систему: 15a^2-2ab=5; 2a-b=3. подробно (полностью)

Надо использовать метод подстановки.
15a²-2ab=5;        (1)
2a-b=3.               (2)
Из уравнения (2) имеем b= 2a - 3.
Подставляем в уравнение (1):
15a² - 2a(2a - 3) = 5.
15a² - 4a² + 6а = 5.
Получили квадратное уравнение:
11а² + 6а - 5 = 0.
Квадратное уравнение, решаем относительно a: 
Ищем дискриминант:D=6^2-4*11*(-5)=36-4*11*(-5)=36-44*(-5)=36-(-44*5)=36-(-220)=36+220=256;
Дискриминант больше 0, уравнение имеет 2 корня:a₁=(√256-6)/(2*11)=
= (16-6)/(2*11)=10/(2*11)=10/22=5/11≈ 0.454545;a₂=(-√256-6)/(2*11)=(-16-6)/(2*11)=-22/(2*11)=-22/22=-1.

Теперь находим b:
b₁ =  2*(5/11) - 3 = (10/11) - 3 = -23/11,
b₂ = 2*(-1) - 3 = -2 - 3 = -5.