Радиус окружности AO равен 5. AO - гипотенуза прямоугольного треугольника, образованного половиной стороны квадрата (DO) и стороной квадрата (AD).
Пусть сторона квадрата равна a. Тогда, по теореме Пифагора, $$AD^2 + DO^2 = AO^2$$, где $$DO = \frac{a}{2}$$.
Получаем уравнение: $$a^2 + (\frac{a}{2})^2 = 5^2$$
$$a^2 + \frac{a^2}{4} = 25$$
$$\frac{5a^2}{4} = 25$$
$$a^2 = \frac{25 \cdot 4}{5} = 20$$
Площадь квадрата ABCD равна $$a^2$$, то есть 20.
Ответ: 20