Ответ:

  1. Раскроем скобки по формуле квадрата суммы и разности: \((a\pm b)^2=a^2\pm2ab+b^2\).
  2. \((5-\sqrt{2})^2=25-10\sqrt{2}+2=27-10\sqrt{2}\).
  3. \((3+\sqrt{2})^2=9+6\sqrt{2}+2=11+6\sqrt{2}\).
  4. Сложим результаты: \(27-10\sqrt{2}+11+6\sqrt{2}=38-4\sqrt{2}\).

Ответ: \(38-4\sqrt{2}\).