Будем считать, что даны вершины пирамиды:
A(0,3,0), B(2,0,0), C(2,3,8), D(0,0,6).
Находим векторы:
AB = (2-0; 0-3; 0-0) = (2; -3; 0).
AC = (2-0; 3-3; 8-0) = (2; 0; 8).
AD = (0-0; 0-3; 6-0) = (0; -3; 6).
Решаем векторное произведение векторов АВ и АС.
i j k| i j
2 -3 0| 2 -3
2 0 8| 2 0 = -24i + 0j + 0k - 16j -0i + 6k = -24i - 16j + 6k.
Получен вектор n(-24; -16; 6).
Выполняем смешанное произведение (ABxAC)*AD.
(ABxAC) = -24 -16 6
AD = 0 -3 6
0 + 48 + 36 = 84.
Объём V = (1/6)(ABxAC)*AD = 84/6 = 14 куб. ед.
