Ответ:
Используем формулу \((x-y)^2=x^2-2xy+y^2\). Из последнего слагаемого получаем второй член: \(y=\frac{3}{5}b^4\).
Тогда \(x^2=\left(\frac{5}{4}am^3\right)^2=\frac{25}{16}a^2m^6\), а \(2xy=2\cdot\frac{5}{4}am^3\cdot\frac{3}{5}b^4=\frac{3}{2}am^3b^4\).
\(\left(\frac{5}{4}am^3-\frac{3}{5}b^4\right)^2=\frac{25}{16}a^2m^6-\frac{3}{2}am^3b^4+\frac{9}{25}b^8\)
