Да, данное выражение можно упростить. Раскроем скобки:

M² - 2m²n - 2mn² - n²

= M² - (2m²n + 2mn²) - n²

= M² - 2mn(m + n) - n²

Таким образом, упрощенное выражение будет M² - 2mn(m + n) - n².