Ответ:

а) Раскроем скобки, учитывая знак минус перед второй скобкой:

\((3a+2)(a-4)-(2a^2-5a+1)=3a^2-10a-8-2a^2+5a-1=a^2-5a-9\).

б) Раскроем скобки:

\((x-2)^2+(x+1)(x-3)=x^2-4x+4+x^2-2x-3=2x^2-6x+1\).

Ответ: а) \(a^2-5a-9\); б) \(2x^2-6x+1\).