Сначала упростим $$\sqrt{18} = \sqrt{9 \cdot 2} = 3\sqrt{2}$$. Тогда выражение примет вид:
$$(\sqrt{5} - 3\sqrt{2})(\sqrt{5} - 2\sqrt{2}).$$Раскроем скобки:
$$\sqrt{5} \cdot \sqrt{5} - 2\sqrt{2} \cdot \sqrt{5} - 3\sqrt{2} \cdot \sqrt{5} + 3\sqrt{2} \cdot 2\sqrt{2} = 5 - 2\sqrt{10} - 3\sqrt{10} + 6 \cdot 2 = 5 - 5\sqrt{10} + 12 = 17 - 5\sqrt{10}.$$Следовательно, правильный ответ:
2) $$17 - 5\sqrt{10}$$