3) \(\sqrt{x^2-5x+6}(x^2-2x-1)=0\)

Произведение равно нулю, если хотя бы один множитель равен нулю; при этом подкоренное выражение должно быть неотрицательным.

Первый множитель: \(\sqrt{x^2-5x+6}=0\) означает \(x^2-5x+6=0\). Разложение: \((x-2)(x-3)=0\), поэтому \(x=2\) или \(x=3\).

Второй множитель: \(x^2-2x-1=0\). Тогда \(x=1\pm\sqrt2\). Для этих значений подкоренное выражение \(x^2-5x+6\) неотрицательно: при \(x=1-\sqrt2<2\) оба линейных множителя \((x-2)(x-3)\) отрицательны, а при \(x=1+\sqrt2>2\text{ и }<3\) произведение отрицательно. Значит, \(1+\sqrt2\) не входит в область определения; \(1-\sqrt2\) подходит.

Ответ: \(x=2,\ 3,\ 1-\sqrt2\).