Ответ:

\((5ab+3)^2=(5ab)^2+2\cdot5ab\cdot3+3^2=25a^2b^2+30ab+9\).

Ответ: \(25a^2b^2+30ab+9\).