Ответ:

По формуле квадрата разности: \((5b-3)^2=25b^2-30b+9\).

Ответ: \(25b^2-30b+9\).