Раскроем скобки, умножив каждый член в скобках на множитель перед скобкой:
\( a \cdot 3a + a \cdot 2b - b \cdot 2a - b \cdot (-5b) \)
\( 3a^2 + 2ab - 2ab + 5b^2 \)
Приведём подобные члены (\( 2ab \) и \( -2ab \) взаимно уничтожаются):
\( 3a^2 + 5b^2 \)
Ответ: 3a² + 5b²