Ответ:

Раскроем скобки:

\(5x(x-2)-(x-4)^2=5x^2-10x-(x^2-8x+16)\).

Приведём подобные слагаемые:

\(5x^2-10x-x^2+8x-16=4x^2-2x-16\).

Ответ: \(4x^2-2x-16\).