Для начала, распишем данное выражение:

(x^2/y - 3x - y^2/x + 3y) * xy / (x^2 - y^2)

Теперь упростим выражение, учитывая, что xy = yx:

x^2 y / y - 3x xy - y^2 x / x + 3y xy / (x^2 - y^2)

Теперь подставим xy = yx:

x^2 y / y - 3x yx - y^2 x / x + 3y yx / (x^2 - y^2)

Итак, у нас получилось следующее упрощенное выражение:

x^2 - 3xyx - y^2 + 3y^2x / (x^2 - y^2)