11) Раскроем скобки и приведем подобные слагаемые:
$$8ac - 6ab + 3b^3 - (5ac - 5ab - b^3) = 8ac - 6ab + 3b^3 - 5ac + 5ab + b^3 = (8ac - 5ac) + (-6ab + 5ab) + (3b^3 + b^3) = 3ac - ab + 4b^3$$
Ответ: $$3ac - ab + 4b^3$$