Ответ:

а) Упростим корни: \(\sqrt{48}=4\sqrt3\), а \(\sqrt5(\sqrt5-\sqrt{15})=5-\sqrt{75}=5-5\sqrt3\). Тогда \(\dfrac54\cdot4\sqrt3+5-5\sqrt3=5\sqrt3+5-5\sqrt3=5\).

б) Применим формулу квадрата разности: \((\sqrt{13}-\sqrt3)^2=13-2\sqrt{39}+3=16-2\sqrt{39}\).

Ответ: а) 5; б) \(16-2\sqrt{39}\).