Ответ:

а) Выносим из-под корней полные квадраты:

\(10\sqrt3-4\sqrt{48}-\sqrt{75}=10\sqrt3-4\cdot4\sqrt3-5\sqrt3=(10-16-5)\sqrt3=-11\sqrt3\).

б) Упрощаем корень и выполняем умножение:

\((5\sqrt2-\sqrt{18})\sqrt2=(5\sqrt2-3\sqrt2)\sqrt2=2\sqrt2\cdot\sqrt2=4\).

в) Применяем формулу квадрата разности:

\((3-\sqrt2)^2=3^2-2\cdot3\cdot\sqrt2+(\sqrt2)^2=9-6\sqrt2+2=11-6\sqrt2\).

Ответ: а) \(-11\sqrt3\); б) \(4\); в) \(11-6\sqrt2\).