Ответ:

Раскроем квадрат суммы: \((5a^2+3b)^2=25a^4+30a^2b+9b^2\).

Вычтем \(30a^2b\): \(25a^4+30a^2b+9b^2-30a^2b=25a^4+9b^2\).

Ответ: \(25a^4+9b^2\)