Для того чтобы найти многочлен, который нужно вычесть, чтобы получилось тождество, нужно из уменьшаемого вычесть разность, то есть из (6x²-3xy-y²) вычесть (x² + 3xy).
Запишем выражение:
$$ (6x^2 - 3xy - y^2) - (x^2 + 3xy) $$Раскроем скобки. Перед второй скобкой стоит знак минус, значит, знаки в скобках меняются на противоположные:
$$ 6x^2 - 3xy - y^2 - x^2 - 3xy $$Приведем подобные слагаемые:
$$ (6x^2 - x^2) + (-3xy - 3xy) - y^2 = 5x^2 - 6xy - y^2 $$Значит, вместо звездочки должен быть многочлен 5x² - 6xy - y².
Ответ: 5x² - 6xy - y²