Ответ:

Используем формулу квадрата разности:

\[(u-v)^2=u^2-2uv+v^2.\]

\[(5b-7a)^2=(5b)^2-2\cdot5b\cdot7a+(7a)^2.\]

\[=25b^2-70ab+49a^2.\]

Ответ: А) \(25b^2-70ab+49a^2\).