11. (m² - 3) - n(m² - 3)²;

Решение:

Для упрощения выражения вынесем общий множитель за скобки.

1. Исходное выражение: \( (m^2 - 3) - n(m^2 - 3)(m^2 - 3) \).
2. Вынесем общий множитель \( (m^2 - 3) \) за скобки: \( (m^2 - 3)(1 - n(m^2 - 3)) \).
3. Упростим выражение во вторых скобках: \( (m^2 - 3)(1 - nm^2 + 3n) \).
4. Раскроем скобки: \( m^2(1 - nm^2 + 3n) - 3(1 - nm^2 + 3n) = m^2 - nm^4 + 3nm^2 - 3 + 3nm^2 - 9n = -nm^4 + 6nm^2 + m^2 - 3 - 9n \).

Ответ: \( -nm^4 + 6nm^2 + m^2 - 3 - 9n \).