Ответ:

а) Преобразуем смешанное число в неправильную дробь и возведём в квадрат:

\(\left(2\frac{1}{3}\right)^2=\left(\frac{7}{3}\right)^2=\frac{49}{9}=5\frac{4}{9}\).

б) Преобразуем смешанные числа в неправильные дроби:

\(1\frac{2}{13}\cdot1\frac{5}{8}\cdot1\frac{3}{5}=\frac{15}{13}\cdot\frac{13}{8}\cdot\frac{8}{5}\).

Сократим множители 13 и 8: \(\frac{15}{5}=3\).

Ответ: а) \(5\frac{4}{9}\); б) 3.