Найдите значение выражения 11a-7b+21 , если 4a-5b+6
=3
5a-4b+6

Нет, не правильно. Хотя ответ верный.
Это задача на размещение без повторений, т.е. при данном размещении 1 человек не может в одной и той же комбинации занять 2 места сразу.
(То, что Вы написали P₄=4! - в размещении используется только тогда, когда число размещений равно числу объектов - формула А₄⁴=P₄=4!),  фоа здесь используем формулу размещения:
 А³₄=4!/(4-3)!=4!/1!=4*3*2=24
4*3*2 - означает, что в каждой комбинации 1-ый человек может выбрать                любое из 4-х мест,
             2-ой - любое из 3-х оставшихся,
              3-й - любое из 2-х оставшихся

1) (x² - 2x)² - 9 = 0
Пусть а = х² - 2х.
а² - 9 = 0
(а - 3)(а + 3) = 0
а = 3
а = -3
Обратная замена:
х² - 2х = 3
х² - 2х = -3

х² - 2х - 3 = 0
х² - 2х + 3 = 0

Для первого уравнения по обратной теореме Виета:
x1 + x2 = 2
х1•х2 = -3

х1 = 3; х2 = -1

Для второго уравнения:
D = 2² - 3•4 = 4 - 12 = -8 =. нет корней.
ответ: х = -1; 3.

2) (х² - 2х)² + 2(х² - 2х) - 15 = 0
Пусть b = x² - 2x.
b² + 2b - 15 = 0
По обратной теореме Виета:
b1 + b2 = -2
b1•b2 = -15

b1 = -5; b2 = 3.
Обратная замена:
x² - 2x = -5
x² - 2x = 3

x² - 2x + 5 = 0
x² - 2x - 3 = 0

Для первого уравнения:
D = 2² - 5•4 = 4 - 20 = -16 => нет корней.

Для второго уравнения по обратной теореме Виета:
x1 + x2 = 2
x1•x2 = -3
x1 = -1; x2 = 3.

ответ: х = -1; 3.

3) 3x² + 1 - 2√(3x² + 1) = 0
Пусть c = √(3x² + 1).
c² - 2c = 0
c² = 2c
c = 0
c = 2
Обратная замена:
√(3x² + 1) = 0
√(3x² + 1) = 2

3x² + 1 = 0
3x² + 1 = 4

3x² = -1
3x² = 3

Первое уравнение не имеет действительных корней.
3x² = 3
x² = 1
x = ±1.

ответ: х = -1; 1.