с небольшим заданием Даны координаты вершин треугольной пирамиды ABCD: А (2;1;3), В (1;4;-7), С (-1;1;6), D(5;1;-3).
Найти:
1) косинус угла DAB;
всё считается в векторах: вектор АВ=(-1; 3; -10), АС= (-3; 0; 3), АD=(3; 0; -6)

Необходимые векторы уже определены:  

вектор АВ=(-1; 3; -10), его модуль = √(1+9+100) = √110.

АD=(3; 0; -6), его модуль = √(9+0+36) = √45 = 3√5.

Теперь находим косинус угла DAB или просто А между векторами.

cos A = (-1*3+3*0+(-10)*(-6))/((√110)*(2√5)) = 57/(10√60) ≈ 0,810163.

Угол  A =  0,62637 радиан или 35,888167 градуса.