Пусть радиус круга равен $$r$$. Квадрат вписан в этот круг. Диагональ квадрата равна диаметру круга, то есть $$2r$$.
Пусть $$a$$ – сторона квадрата. По теореме Пифагора, $$a^2 + a^2 = (2r)^2$$, то есть $$2a^2 = 4r^2$$, и $$a^2 = 2r^2$$. Площадь квадрата равна $$S_{кв} = a^2 = 2r^2$$.
Площадь круга равна $$S_{кр} = \pi r^2$$.
Площадь оставшейся части круга равна разности площади круга и площади квадрата:
$$S = S_{кр} - S_{кв} = \pi r^2 - 2r^2 = (\pi - 2)r^2$$
Ответ: $$(\pi - 2)r^2$$