Ответ:

Раскроем квадрат разности:

\((5a-2b)^2+20ab=25a^2-20ab+4b^2+20ab=25a^2+4b^2\).

Подставим значения переменных: \(25(\sqrt2)^2+4(\sqrt3)^2=25\cdot2+4\cdot3=50+12=62\).

Ответ: 62.