Ответ:

а)

Перемножим коэффициенты и одноимённые переменные:

\(5x \cdot 8y \cdot (-7x^2) + (-6x) \cdot 3y^2 = -280x^3y - 18xy^2\).

б)

Соберём подобные слагаемые:

\(5a^2 - 3a^2 = 2a^2\), \(3a + 7a = 10a\), \(-7 - 11 = -18\).

\(5a^2 + 3a - 7 - 5a^3 - 3a^2 + 7a - 11 = -5a^3 + 2a^2 + 10a - 18\).

в)

Соберём подобные слагаемые:

\(5a^3 - 8a^3 = -3a^3\), \(6a^2b - 3a^2b = 3a^2b\), \(-5ab^2 + 2ab^2 = -3ab^2\).

\(6a^2b - 5ab^2 + 5a^3 + 2ab^2 - 8a^3 - 3a^2b = -3a^3 + 3a^2b - 3ab^2\).

Ответ: а) \(-280x^3y - 18xy^2\); б) \(-5a^3 + 2a^2 + 10a - 18\); в) \(-3a^3 + 3a^2b - 3ab^2\).