Ответ:

Используем формулу \((u-v)^2=u^2-2uv+v^2\): \((5a-3b)^2=25a^2-30ab+9b^2\).

Ответ: \(25a^2-30ab+9b^2\); указанный ответ верен.