Раскроем скобки в выражении:
\[28xy + 2(-x + 7y)^2 = 28xy + 2(x^2 - 14xy + 49y^2)\]
\[= 28xy + 2x^2 - 28xy + 98y^2\]
\[= 2x^2 + 98y^2\]
Подставим значения \(x = \sqrt{5}\) и \(y = \sqrt{8}\) в упрощенное выражение:
\[2(\sqrt{5})^2 + 98(\sqrt{8})^2 = 2 \cdot 5 + 98 \cdot 8\]
\[= 10 + 784\]
\[= 794\]
Ответ: 794