Ответ:

Общий множитель всех слагаемых — \(xy\). Выносим его за скобки:

\(5xy^2-3x^2y+x^2y^2=xy(5y-3x+xy)\).

Ответ: \(xy(5y-3x+xy)\).