Ответ:

а) Раскроем скобки и упростим корни:

\(\sqrt6(\sqrt{12}-\sqrt6)-\frac32\sqrt{32}=\sqrt{72}-\sqrt{36}-\frac32\sqrt{32}\).

\(\sqrt{72}=6\sqrt2\), \(\sqrt{36}=6\), \(\sqrt{32}=4\sqrt2\).

Следовательно:

\(6\sqrt2-6-\frac32\cdot4\sqrt2=6\sqrt2-6-6\sqrt2=-6\).

б) Возведём двучлен в квадрат:

\((\sqrt7-\sqrt3)^2=7-2\sqrt{21}+3=10-2\sqrt{21}\).

Ответ: а) \(-6\); б) \(10-2\sqrt{21}\).