а) Вынесем общий множитель за скобки:
$$3x^3y^3 + 3x^2y^4 - 6xy^2 = 3xy^2(x^2y + xy^2 - 2)$$
б) Сгруппируем члены и вынесем общий множитель за скобки:
$$2a + a^2 - b^2 - 2b = (a^2 + 2a) - (b^2 + 2b) = (a^2 - b^2) + (2a - 2b)$$
$$= (a - b)(a + b) + 2(a - b) = (a - b)(a + b + 2)$$
Ответ: а) $$3xy^2(x^2y + xy^2 - 2)$$, б) $$(a - b)(a + b + 2)$$