Ответ:

Раскроем квадрат суммы по формуле \((a+b)^2=a^2+2ab+b^2\):

\((\sqrt3+5)^2-16\sqrt3=3+10\sqrt3+25-16\sqrt3=28-6\sqrt3.\)

Ответ: \(28-6\sqrt3\).