Ответ:

а) Раскроем скобки и приведём подобные слагаемые:

\((a-c)(a+c)-c(3a-c)=a^2-c^2-(3ac-c^2)=a^2-3ac.\)

б) Раскроем скобки:

\((b-4)(b+2)-(b-1)^2=(b^2-2b-8)-(b^2-2b+1)=-9.\)

в) Возведём множители в степени, затем перемножим степени с одинаковыми основаниями:

\((-3a^2b^3)^3(2a^5b)^2=-27a^6b^9\cdot4a^{10}b^2=-108a^{16}b^{11}.\)

Ответ: а) \(a^2-3ac\); б) \(-9\); в) \(-108a^{16}b^{11}\).