Ответ:

Раскроем квадрат разности по формуле \((a-b)^2=a^2-2ab+b^2\):

\((\sqrt{11}-1)^2=11-2\sqrt{11}+1=12-2\sqrt{11}\).

Ответ: \(12-2\sqrt{11}\), второй вариант.