Ответ:

Раскроем скобки, учитывая знак минус перед второй скобкой:

\(5x(x-2y)-(x^2-10xy)=5x^2-10xy-x^2+10xy=4x^2.\)

Ответ: \(4x^2\).