6a^2-5ab-6b^2 = (2a-3b)(3a+2b)
разложение можно выполнить по разному, но проще рассмотреть многочлен как квадратный трехчлен, например, относительно a
1) по теореме Виета
a1+a2=5b/6
a1*a2=-b^2
получаем a1=3b/2, a2=-2b/3
6(a-3b/2)(a+2b/3)=(2a-3b)(3a+2b)
2) просто решая
D=(-5b)^2-4*(-6b^2)*6=169b^2=(13b)^2
a1=(5b+13b)/12=3b/2, a2=(5b-13b)/12=-2b/3
