Ответ:

Раскроем квадрат суммы:

\((\sqrt{11}+3)^2-6\sqrt{11}=11+6\sqrt{11}+9-6\sqrt{11}=20\).

Ответ: 20.