Проведем из центра окружности радиус точки касания вершины квадрата с окружностью. Рассмотри треугольник (прямоугольный).

По теореме Пифагора :

1²=a²+a²/2²

1=5a²/4

4=5a²

4/5=a²

Это и есть площадь квадрата.