Ответ:

а) Преобразуем смешанные числа: \(3\frac{3}{7}=\frac{24}{7}\), \(−2\frac{1}{3}=−\frac{7}{3}\).

\[\frac{24}{7}x^5y^6\cdot\left(−\frac{7}{3}x^5y^2\right)^2=\frac{24}{7}x^5y^6\cdot\frac{49}{9}x^{10}y^4=\frac{56}{3}x^{15}y^{10}.\]

б) \[(a^{n+1})^2:a^{2n}=a^{2n+2}:a^{2n}=a^2.\]

Ответ: а) \(\frac{56}{3}x^{15}y^{10}\); б) \(a^2\).