Ответ:

Записываем разность: \(a^2 - 3b\).

Подставляем значения: \((2\frac{1}{5})^2 - 3 \cdot \frac{8}{15} = (\frac{11}{5})^2 - \frac{24}{15} = \frac{121}{25} - \frac{8}{5} = \frac{121}{25} - \frac{40}{25} = \frac{81}{25} = 3\frac{6}{25}.\)

Ответ: \(a^2 - 3b = 3\frac{6}{25}\).