В треугольнике ABC с прямым углом C проведена высота CH. AC=10см, AH=8 см. Найдите AB и CB.

Удивительно, но эта такая сложная по формулировке задача решается в одно действие.
Угол между высотами, выходящими (например, тут полный произвол в обозначениях) из вершин углов A и B; равен 180 - С;
Это можно просто сосчитать, как 180 - (90 - A) - (90 - B) = A + B = 180 - C;
а можно просто заметить, что четырехугольник, образованный сторонами угла С и высотами (ну кусочками), выходящими из углов A и B, очевидно является вписанным (да даже еще проще - в нем два угла прямых).
а можно просто заметить, что у угла С и угла между высотами СТОРОНЫ ПЕРПЕНДИКУЛЯРНЫ. :)
Поэтому в обоих треугольниках напротив общей их стороны AB лежат углы, синусы которых равны.
Поэтому (по теореме синусов) равны радиусы окружностей, описанных вокруг этих треугольников.

Условие задачи НЕ КОРРЕКТНО. По координатам двух противоположных вершин прямоугольника (B и D) определить координаты двух других вершин (А и С) невозможно без дополнительного условия.  Дело в том, что вершины прямоугольника лежат на окружности диаметра BD и их бесконечное множество.

Смотри рисунок.

Любой точке на окружности соответствует симметричная ей относительно центра О точка, соединив которые с точками В и D получим прямоугольник, так как углы ВАD и ВСD - прямые (вписанные, опирающиеся на дивметр).

Найдем координаты центра окружности, описанной около данного прямоугольника и ее радиус:

О((-4+2)/2; (2-3)/2) или О(-1;-0,5).

R=|ОВ| = √((-4-(-1))²+(2-(-0,5)²) =√15,25. Тогда уравнение окружности (x+1)² + (y+0,5)² =15,25.

ЛЮБАЯ точка на этой окружности - вершина А, симметричная ей относительно центра О точка - вершина С.

Найдем координаты вершин А и С ПРИ УСЛОВИИ, что стороны прямоугольника параллельны осям ординат.

В уравнение окружности подставим координату Х=-4 и найдем для нее соответствующую координату Y: (-3)² + (y+0,5)² =15,25. => Y² + Y -6 = 0.  => Y1=3, Y2=-2. Точно так же для точек с координатой Х=2. Y1=2 и Y2=-3. Тогда имеем: А(-4;-3) и С(2;2).