Ответ:

а) Переведём смешанные числа в неправильные дроби: \(2\frac{2}{3}=\frac{8}{3}\), \(-1\frac{1}{2}=-\frac{3}{2}\). Тогда
\(\frac{8}{3}x^5y^8\cdot\left(-\frac{3}{2}x^3y^6\right)^2=\frac{8}{3}x^5y^8\cdot\frac{9}{4}x^6y^{12}=6x^{11}y^{20}\).

б) Возведём степень в степень и вычтем показатели при делении: \((a^{1+n})^3:a^3=a^{3(1+n)-3}=a^{3n}\) (при \(a\ne0\)).

Ответ: а) \(6x^{11}y^{20}\); б) \(a^{3n}\).