в прямоугольном треугольнике abc c=900 катеты равны 6 см и 8см а гипотенуза 10 см

Геометрический
S(AMB)=1/2MA·MB·sin(AMB)=(√3/4)MA·MB, т.к. ∠AMB=∠ACB=60°.
Отсюда  MA·MB=4S(AMB)/√3 и аналогично из площадей треугольников AMC и СМВ получим MA·MC=4S(AMC)/√3, MC·MB=4S(СMВ)/√3.
По теореме косинусов для тех же треугольников:
AB²=MA²+MB²-MA·MB=MA²+MB²-(4/√3)·S(AMB);
AС²=MA²+MС²+MA·MС=MA²+MС²-(4/√3)·S(AMС);
СB²=MС²+MB²-MС·MB=MС²+MB²-(4/√3)·S(СMB).
Сложим эти равенства:
AB²+AС²+СB²=2(MA²+MB²+MС²)-(4/√3)·(S(AMB)-S(AMС)+S(СMB)).
Но AB=AС=СB=√3, и значит AB²+AС²+СB²=3+3+3=9,
S(AMB)+S(СMB)-S(AMС)=S(ABC)=(3√3)/4.
Поэтому 9=2(MA²+MB²+MС²)-(4/√3)·(3√3)/4, т.е. 
MA²+MB²+MС²=(9+3)/2=6.

Тригонометрический
Если R - радиус, О - центр окружности и ∠AOM=2x, то  MА=2Rsin(x), MB=2Rsin(60°+x), MC=2Rsin(60°-x). Значит 
MA²+MB²+MС²=4R²(sin²(x)+sin²(60°+x)+sin²(60°-x)).
После раскрытия синусов суммы и упрощения получим 6R², что и требовалось.

Так как призма прямая и в основании квадрат, все углы между ребрами прямые. Между пересекающимися боковым ребром и диагональю основания, а так же пересекающимися стороной основания и диагональю боковой грани уголы прямые (если прямая перпендикулярна плоскости, то она перпендикулярна любой прямой в этой плоскости, проходящей через точку пересечения). По теореме Пифагора находим: (17^2-15^2)=64 - квадрат диагонали основания. 64/2 = 32 - квадрат стороны основания. 32 + 15^2 = 32+225 =257 - квадрат диагонали боковой грани \|257 (см) - диагональ боковой грани