Проведем из центра окружности радиус точки касания вершины квадрата с окружностью. Рассмотри треугольник (прямоугольный).
По теореме Пифагора :
1²=a²+a²/2²
1=5a²/4
4=5a²
4/5=a²
Это и есть площадь квадрата.
