Ответ:

а) \((\sqrt{20}-\sqrt5)\cdot\sqrt5=(2\sqrt5-\sqrt5)\cdot\sqrt5=\sqrt5\cdot\sqrt5=5\).

б) \((\sqrt3-1)^2=(\sqrt3)^2-2\sqrt3\cdot1+1^2=4-2\sqrt3\).

в) Применим формулу разности квадратов: \((\sqrt{11}-\sqrt2)(\sqrt{11}+\sqrt2)=(\sqrt{11})^2-(\sqrt2)^2=11-2=9\).

Ответ: а) 5; б) \(4-2\sqrt3\); в) 9.