11)(a² + ab + b²)(a−b);

Для умножения многочлена на многочлен нужно каждый член первого многочлена умножить на каждый член второго многочлена, а затем привести подобные слагаемые.

11) $$(a^2 + ab + b^2)(a-b) = a^2(a-b) + ab(a-b) + b^2(a-b) = a^3 - a^2b + a^2b - ab^2 + ab^2 - b^3 = a^3 - b^3 $$.

Ответ: $$ a^3 - b^3 $$