Вершины треугольника KMN имеют координаты K(2;1;-2) M(-1;1;2) N(-2;4;0))

ДАНО
а - сторона первого квадрата.
b = a - 3 - ширина прямоугольника
S2 = S1 - 6 см² - площадь стала меньше.
НАЙТИ
а = ? -  сторона первого.
РЕШЕНИЕ
Площадь квадрата по формуле
S1 = a², 
Площадь прямоугольника по формуле
S2 = a*b = a*(a - 3)
Пишем уравнение
a² - (a²-3a) = 6
Раскрываем скобки.
a² - a² + 3a  = 6
Упрощаем
3*а = 6
Находим неизвестное - а
а = 6/3 = 2 - сторона квадрата (длина прямоугольника) 
Находим неизвестное - b
b = a - 3 = - 1 - длина прямоугольника.
ВЫВОД.
Получили отрицательное значение длины - b и это значит, что в условии всё наоборот и следует читать:
ЗАДАЧА.
К стороне квадрата ПРИБАВИЛИ 3 см и площадь УВЕЛИЧИЛАСЬ на 6 см.
Площадь квадрата -  S1 = 2*2 = 4 см²,
Площадь прямоугольника - S2 = 5*2 = 10 см² 
Проверка: 10 - 4 = 6 см² - разность - правильно.

Для этого надо решить систему уравнений. Обозначим а-длина. и-ширина

(a+b)*2=40 /2        a+b=20      a=20-b

a*b=51                    a*b=51       ( 20-b)*b=51 

                                                        20b-b^2=51

                                                         -b^2+20b-51=o  /*(-1)

                                                          b^2-20b+51=o

                      Дискр.=400-4*51=196=14^2

 

b1=(20+16)/2=18               b2=(20-14)/2=3

a1=20-18=2                        a2=20-3=17

ответ: (2;18) (17;3)