Ответ:

а) Раскроем скобки и упростим корни: \(\sqrt6\cdot\sqrt{12}-\sqrt6\cdot\sqrt6-\frac52\sqrt{32}=\sqrt{72}-6-\frac52\cdot4\sqrt2=6\sqrt2-6-10\sqrt2=-6-4\sqrt2\).

б) По формуле квадрата разности: \((\sqrt7-\sqrt3)^2=7-2\sqrt{21}+3=10-2\sqrt{21}\).

Ответ: а) \(-6-4\sqrt2\); б) \(10-2\sqrt{21}\).