Ответ:

а) Приведём корни к виду с подкоренным выражением 2: \(5\sqrt{2}+2\sqrt{32}-\sqrt{98}=5\sqrt{2}+2\cdot4\sqrt{2}-7\sqrt{2}=6\sqrt{2}\).

б) \((4\sqrt{3}+\sqrt{27})\sqrt{3}=(4\sqrt{3}+3\sqrt{3})\sqrt{3}=7\cdot3=21\).

в) По формуле квадрата разности: \((\sqrt{5}-\sqrt{3})^2=5-2\sqrt{15}+3=8-2\sqrt{15}\).

Ответ: а) \(6\sqrt{2}\); б) 21; в) \(8-2\sqrt{15}\).