Ответ:

Сгруппируем слагаемые:

\(x^2y+xy^2-3+x+y-3xy=xy(x+y)-3xy+(x+y)-3\).

Вынесем общий двучлен в каждой группе: \(xy(x+y-3)+(x+y-3)\).

Вынесем общий множитель \((x+y-3)\): \((xy+1)(x+y-3)\).

Ответ: \((xy+1)(x+y-3)\).