Для начала распишем выражение (х + 3у)²:

(х + 3у)² = (х + 3у)(х + 3у) = хх + 3ух + 3ух + 3у3у
(х + 3у)² = х² + 6ух + 9у²

Теперь подставим это выражение обратно в исходное:

х² + 6ух + 9у² - у² + 2ху - х²

Убираем лишние члены:

6ух + 9у² - у² + 2ху

В результате получаем, что выражение (х+3у)² - у² + 2ху - х² раскладывается на множители:

(х + 3у - у)(х + 3у - у) = (х + 2у)(х + 2у)