Ответ:

Раскроем квадрат суммы:

(√11 + 3)² − 6√11 = 11 + 6√11 + 9 − 6√11 = 20.

Ответ: 20.