Ответ:

а) Радиус окружности равен длине AB: \(r=\sqrt{(0-(-1))^2+(-1-2)^2}=\sqrt{10}\). Уравнение окружности с центром \((a;b)\) имеет вид \((x-a)^2+(y-b)^2=r^2\). Поэтому:

\((x+1)^2+(y-2)^2=10\).

б) Подставим координаты \(D(5;4)\) в левую часть:

\((5+1)^2+(4-2)^2=36+4=40\).

Так как \(40\ne10\), точка D не лежит на окружности.

Ответ: а) \((x+1)^2+(y-2)^2=10\); б) нет, точка D окружности не принадлежит.