Ответ:

(√11 + 3)2 − 6√11 = 11 + 6√11 + 9 − 6√11 = 20.

Ответ: 20.