Ответ:

Пусть сначала A ≠ B, d = AB. Выберем координаты A = (0, 0), B = (d, 0), M = (x, y). Тогда AM² = x² + y², BM² = (x − d)² + y².

а) Подставим выражения в условие и преобразуем:

\[2(x^2+y^2)-((x-d)^2+y^2)=2d^2,\]

\[(x+d)^2+y^2=4d^2.\]

Это уравнение окружности с центром в точке (−d, 0) и радиусом 2d. Геометрически её центр — точка, симметричная B относительно A.

б) Подставим выражения в условие и преобразуем:

\[2(x^2+y^2)+2((x-d)^2+y^2)=6d^2,\]

\[\left(x-\frac d2\right)^2+y^2=\frac{5d^2}{4}.\]

Следовательно, это окружность с центром в середине отрезка AB и радиусом \(\frac{\sqrt5}{2}AB\).

Если A = B, в обоих пунктах уравнение сводится к AM² = 0, поэтому множество состоит только из точки A.

Ответ: а) окружность с центром в точке, симметричной B относительно A, радиуса 2AB; б) окружность с центром в середине AB, радиуса \(\frac{\sqrt5}{2}AB\). Если A = B, в обоих случаях множество — точка A.