5. Найдите дополнение множества Y до множества X, если: 1) Y — множество точек отрезка AB, X — множество точек прямой AB; 2) Y — множество точек квадрата, X — множество точек круга, в который вписан данный квадрат.

Дополнение Y до X — это множество X\(\Y\): точки, принадлежащие X, но не принадлежащие Y.

1. Из прямой AB исключаем точки отрезка AB. Получаются точки прямой, лежащие вне отрезка: два открытых луча за точками A и B.
2. Из точек круга исключаем точки квадрата. Если под точками круга понимаются точки его диска, остаются точки диска вне квадрата; вершины квадрата, лежащие на окружности, также исключаются.