Можно ли применять теорему о внутренних углов четырёхугольника невыпуклый четырёхугольнику ? Используйте полученные вами знания о треугольниках .

Построим сумму векторов а и b и их разность.
↑АС = ↑р = ↑а + ↑b
↑DB = ↑q = ↑a - ↑b
Чтобы найти угол между векторами p и q, построим вектор, равный вектору q, с началом в точке А.
∠ЕАС - искомый.
Из ΔABD найдем длину вектора q по теореме косинусов:
|↑q|² = AB² + AD² - 2·AB·AD·cos60° = 25 + 64 - 2·5·8·1/2 = 89 - 40 = 49
|↑q| = 7
Сумма углов параллелограмма, прилежащих к одной стороне, равна 180°, значит ∠АВС = 120°.
Из ΔABС найдем длину вектора р по теореме косинусов:
|↑p|² = AB² + BC² - 2·AB·BC·cos120° = 25 + 64 + 2·5·8·1/2 = 89 + 40 = 129
|↑p| = √129

Из ΔЕАС по теореме косинусов:
cos α = (AE² + AC² - EC²) / (2 · AE · AC)
cos α = (49 + 129 - 256) / (2 · 7 · √129) = - 78 / (14√129) = - 39√129 / 903
cos α = - 13√129/301

Проведем DK⊥SC.
ΔDKC = ΔBKC по двум сторонам и углу между ними (DC = BC как стороны квадрата, КС - общая, углы при вершине С равны, так как боковые грани - равные равнобедренные треугольники).
Тогда и ВК⊥SC, значит
∠DKB - линейный угол двугранного угла при боковом ребре пирамиды.
Обозначим его α.
sinα = 12/13

SC⊥DKB (ребро SC перпендикулярно двум пересекающимся прямым этой плоскости), ⇒
SC⊥OK.
Тогда отрезок ОК параллелен высоте треугольника ASC, проведенной из вершины А (обозначим ее h), и равен ее половине.
Sasc = 1/2 · SC · h = 1/2 · SC · 2OK = SC·OK = 7√13        ( 1 )

ΔOKD: OK = KD · cos (α/2)

Угол α тупой, т.к. sin(α/2) = OD/DK > OD/DC = 1/√2
cos α  = - √(1 - sin²α) = - √(1 - 144/169) = - √(25/169) = - 5/13

cos (α/2) = √((1 + cos α)/2) = √((1 - 5/13)/2) = √(8/26) = √(4/13) = 2/√13

Вернемся к ΔOKD:
ОК = KD · cos (α/2) = KD · 2/√13
Подставим в равенство (1):
SC · KD · 2/√13 = 7√13
SC · KD = 7√13 · √13 / 2 = 91/2
Но KD - высота боковой грани SCD, проведенная к ребру SC.
Sscd = 1/2 · SC · KD = 1/2 · 91/2 = 91/4
Тогда площадь боковой поверхности:
Sбок = 4 · Sscd = 4 · 91/4 = 91