Ответ:

Из первого уравнения, используя \(\cos 2y=1-2\sin^2y\), получаем \(2\sin^2y-\sin y-1=0\). Отсюда \(\sin y=1\) или \(\sin y=- frac12\).

Во втором уравнении левая часть неотрицательна, следовательно, необходимо \(\cos y\ge0\).

Если \(\sin y=1\), то \(y= \frac{\pi}{2}+2\pi k\), \(\cos y=0\). Тогда \(\sqrt{x^2-2x}=0\), откуда \(x=0\) или \(x=2\).

Если \(\sin y=- frac12\) и \(\cos y\ge0\), то \(y= \frac{11\pi}{6}+2\pi k\), а \(2\cos y=\sqrt3\). Тогда \(x^2-2x=3\), то есть \((x-3)(x+1)=0\), поэтому \(x=3\) или \(x=-1\).

Ответ: \((x,y)=(0, \frac{\pi}{2}+2\pi k), (2, \frac{\pi}{2}+2\pi k), (3, \frac{11\pi}{6}+2\pi k), (-1, \frac{11\pi}{6}+2\pi k)\), где \(k\in\mathbb Z\).