Ctgx+ctgy/sin(x+y)=1/sinxsiny

Для того,чтобы сумма квадратов корней уравнения равнялась какой-либо величине, эти корни должны существовать. Значит, дискриминант нашего уравнения должен быть неотрицательным,т.е
(3p-5)^2-4(3p^2-11p-6)>=0. При таких "p" у исходного уравнения найдутся(возможно, совпадающие) корни x1 и x2. Запишем для них теорему Виета:
x1+x2=-b/a=5-3p
x1*x2=c/a=3p^2-11p-6
Теперь,не вычисляя корней, можно найти сумму их квадратов через "p": x1^2 + x2^2.
Выделим полный квадрат:
(x1+x2)^2-2x1*x2= (5-3p)^2-2(3p^2-11p-6).
По условию, эта сумма квадратов  равна 65.
Получаем:
(5-3p)^2-2(3p^2-11p-6)=65
Решим его:
25-30p+9p^2-6p^2+22p+12-65=0
3p^2-8p-28=0
D=(-8)^2-4*3*(-28)=400
p1=(8-20)/6=-2
p2=(8+20)/6=14/3
Проверим, подставив эти значения "p" в исходное уравнения, чтобы убедиться, что дискриминант неотрицателен.
Проверять здесь не буду из-за экономии времени. Все найденные "p" подходят.
Теперь найдем корни уравнения:
1)p=-2
x^2-11x+28=0
x1=4; x2=7
2)p=14/3
x^2+9x+8=0
x1=-8; x2=-1
ответ: при p=-2 x1=4, x2=7; при p=14/3 x1=-8, x2=-1.

В данном сплаве: 40г золота + (х)г серебра = (40+х)г сплава
40+х 100%
    х     ??%
??% = 100х / (40+х) ---это процент серебра в данном сплаве)))
+6г серебра +8г золота
получилось (40+х+6+8)г = (54+х)г сплава
в нем (х+6)г серебра
54+х 100%
 х+6    ???%
???% = 100(х+6) / (54+х) ---это процент серебра в полученном сплаве
и он больше на 5(%)
100(х+6) / (54+х) - 100х / (40+х) = 5
(100(х+6)(40+х) - 100х(54+х)) / ((54+х)(40+х)) = 5
100*((х+6)(40+х) - х(54+х)) = 5*(54+х)(40+х)
20*((х+6)(40+х) - х(54+х)) = (54+х)(40+х)
20(240 - 8x) = x^2 + 94x + 54*40
x^2 + 254x -2640 = 0
D = 254*254 + 4*2640 = 4(127*127+2640) = 274^2
x1 = (-254+274)/2 = 10
второй корень не имеет смысла (он отрицательный)))
ответ: в начальном сплаве было 10 г серебра
ПРОВЕРКА:
масса начального сплава 40+10 = 50г
серебра в нем 
50 --- 100%
10 ---  х%
х% = 1000/50 = 20%
в новом сплаве 50+6+8 = 64 г
серебра в нем 10+6 = 16 г
64 --- 100%
16 ---  х%
х% = 16*100/64 = 100/4 = 25% ---это на 5% больше)))