Ответ:

а) Перемножим дроби и сократим общие множители:

\(\frac{8a^2}{b^3}\cdot\frac{b^5}{24a^3}=\frac{8a^2b^5}{24a^3b^3}=\frac{b^2}{3a}\), где \(a\ne0\), \(b\ne0\).

б) Деление заменим умножением на обратную дробь, а разность квадратов разложим на множители:

\(\frac{x^2-9y^2}{4xy}:\frac{x-3y}{12x^2}=\frac{(x-3y)(x+3y)}{4xy}\cdot\frac{12x^2}{x-3y}\).

Сокращаем общие множители и получаем \(\frac{3x(x+3y)}{y}\). Ограничения исходного выражения: \(x\ne0\), \(y\ne0\), \(x\ne3y\).

Ответ: а) \(\frac{b^2}{3a}\); б) \(\frac{3x(x+3y)}{y}\), при указанных ограничениях.