Ответ:

Заметим, что \(16x^2-24x+9=(4x-3)^2\). Сделаем замену \(y=4x-3\), тогда \(x=\frac{y+3}{4}\):

\(\frac{y+3}{4}y^2=y\), откуда \(y(y^2+3y-4)=0\).

\(y(y+4)(y-1)=0\), поэтому \(y=0,-4,1\). Тогда \(x=\frac34,-\frac14,1\).

Ответ: \(x\in\left\{-\frac14,\frac34,1\right\}\).