1) Сначала решим первое уравнение:
ху + 2(х - у) = 105
ху + 2х - 2у = 105
2у = ху + 2х - 105
y = (ху + 2x - 105) / 2

2) Подставим найденное значение y во второе уравнение:
ху - 3(х - у) = 11
ху - 3х + 3у = 11
ху - 3х + 3((ху + 2x - 105) / 2) = 11
ху - 3х + 3ху + 6x - 315 = 22
4ху + 3x - 293 = 0

3) Теперь решим уравнение 4ху + 3x - 293 = 0 относительно переменной х:
3x = 293 - 4ху
x = (293 - 4ху) / 3

4) Подставим найденное значение x в уравнение y = (ху + 2x - 105) / 2:
y = ((ху + 2 * ((293 - 4ху) / 3) - 105) / 2
y = ((ху + 586 - 8ху) / 3 - 105) / 2
y = (586 - 7ху) / 6 - 105 / 2
y = (586 - 7ху) / 6 - 52.5

5) Таким образом, система уравнений имеет решение:
x = (293 - 4ху) / 3
y = (586 - 7ху) / 6 - 52.5