Собственно, вот в этой задаче я уже решал, но почему-то пропали прикреплённые картинки. По этой причине повторюсь.
Если принять сторону основания за a, a ребро за b, то в зависимости от расчёта приходим к одной из формул (они приводимы друг к другу):

Сначала доказываете, что плоскость BMD перпендикулярна AC, далее - перпендикулярна A'C', A'C' пересекает BMD в точке P, ну и перпендикулярна всем прямым данной плоскости, проходящим через P => ND перпендикулярна A'C'.
Т.о. 
т.е. 
Найдём длины нужных нам в дальнейшем отрезков:



В треугольнике BMD DM и MO это медианы, пересекающиеся в точке P. Т.о. 
AC || A'C' из подобия треугольников AMC и A'MC' следует, что 
т.е. 






Теперь подставляем значения в формулу:


ответ: 
P.S.> Для примера - есть вариант, где a=6, b=12. В этом случае результат будет следующий:


Это соответствует правильному ответу.
P.P.S.> Попробую прикрепить ещё снимки решения на бумаге (если получится) - там 2 варианта. Почему-то не всегда прикреплённые картинки сохраняются. По этому и вбил решение текстом.

Для удобства разобьем многочлен на 2 пары x^2-xy и -4x+4y.
Становится видно, что в первой паре общим множителем является х. Вынесем его за скобки получим x^2-xy=х(х-у).
Во второй паре общий множитель -4, Вынесем его за скобки -4x+4y=-4(х-у).
Снова объединим две пары с уже вынесенными общими множителями за скобки в одно выражение получим x^2-xy-4x+4y=х(х-у)-4(х-у)
Видно, что для обоих членов многочлена общий множитель (х-у). Вынесем его за скобки х(х-у)-4(х-у)=(х-у)(х-4)
ответ: x^2-xy-4x+4y=(х-у)(х-4)
Пошаговое объяснение: