Проверим, лежит ли точка А(5,-3) на какой-либо заданной высоте. Подставим координаты этой точки в уравнения высот. Если равенство получим верное, то точка лежит на прямой.
Точка А(5,-3) не лежит ни на одной высоте. Для определённости, пусть высота BN имеет уравнение 2х-у-1=0, а высота СМ: 13х+4у-7=0.
BN⊥AC ⇒ направляющий вектор для АС равен нормальному вектору для BN: 
.
Точка А(5,-3)∈АС и уравнение АС имеет вид:
CM⊥AB ⇒ направляющий вектор для АВ равен нормальному вектору для CМ: 
.
Точка А(5,-3)∈АВ и уравнение АВ имеет вид:
Координаты точки В найдём как точку пересечения АВ и BN, а координаты точки С найдём как точку пересечения АС и CM .
Пусть данные плоскости а и b.
А ∈ а, В ∈ b.
АН⊥СН, ВС⊥СН
ВН - проекция АВ на плоскость b,
АС - проекция АВ на плоскость а.
∆ АСН - прямоугольный, ∠АНС=90°
По т.Пифагора АН²=АС²-СН²=256-144=112
АН перпендикулярен линии пересечения взаимно перпендикулярных плоскостей, следовательно, АН перпендикулярен любой прямой, лежащей в плоскости b и проходящей через Н.
∆ АНВ - прямоугольный. ∠АНВ=90°
По т.Пифагора АВ²=АН²+ВН²=512
АВ=√512=16√2
Или:
∆ СНВ - прямоугольный, ∠ВСН=90° ⇒
По т.Пифагора СВ²=ВН²-СН²=400-144=256
ВС=√256=16
∆ АСВ- прямоугольный. ∠АСВ=90°
По т.Пифагора АВ² = АС² +ВС² =256+256=512⇒
АВ=√512=16√2
