Ответ:

Раскроем скобки и возведём двучлен в квадрат:

\((x-3)^2=x^2-6x+9\),

\(-2x(3x-8)=-6x^2+16x\).

Сложим подобные слагаемые:

\(x^2-6x+9-6x^2+16x=-5x^2+10x+9\).

Ответ: \(-5x^2+10x+9\).