Ответ:

1) Раскроем скобки и приведём подобные слагаемые:

\(5.7a^2-2.1ab+b^2-3.9ab+0.3a^2-2b^2=6a^2-6ab-b^2\).

Подставим \(a=-1\), \(b=5\): \(6\cdot(-1)^2-6\cdot(-1)\cdot5-5^2=6+30-25=11\).

2) Раскроем скобки и приведём подобные:

\(5m^2n-m^3+7m^3-6m^3+3m^2n=8m^2n\).

Подставим значения: \(8\cdot(-\frac{2}{3})^2\cdot\frac{3}{16}=8\cdot\frac{4}{9}\cdot\frac{3}{16}=\frac{2}{3}\).

Ответ: 1) 11; 2) \(\frac{2}{3}\).