Ответ:

По формуле \((a-b)^2=a^2-2ab+b^2\):

\((5m-3n)^2=25m^2-30mn+9n^2\)

Ответ: \(25m^2-30mn+9n^2\).