Вспоминаем свойство медианы к гипотенузе в прямоугольном треугольнике:
медиана, падающая на гипотенузу, равна половине гипотенузы.
Центр окружности, описанной вокруг прямоугольного треугольника лежит на середине гипотенузы, значит R=6 см, даже и решать нмчего не нужно...
