11. 9a²−24ab+16b²

Сравним выражение с формулой \((u-v)^2=u^2-2uv+v^2\): \(9a^2=(3a)^2\), \(16b^2=(4b)^2\), а \(-2\cdot3a\cdot4b=-24ab\).

Значит, \(9a^2-24ab+16b^2=(3a-4b)^2\).

Ответ: \((3a-4b)^2\).