Для начала найдем значения выражений при заданных значениях x и y:

y = √2
x = √5

Подставляем:
y(3y - 4x) - (-2x + y) = (√2(3√2 - 4√5)) - (-2√5 + √2)

Рассчитываем значения в скобках:
3√2 - 4√5 = 3√2 - 8√2 = -5√2
-2√5 + √2 = -2√5 + √2

Подставляем обратно в исходное выражение:
(-√2)(-5√2) - (-2√5 + √2) = 10 - (-2√5 + √2)

Упрощаем:
10 - (-2√5 + √2) = 10 + 2√5 - √2

Теперь возводим это значение в квадрат:
(10 + 2√5 - √2)^2 = 100 + 40√5 - 20√2 + 4*5 - 4√10 + 2√2 = 100 + 40√5 - 20√2 + 20 - 4√10 + 2√2

Ответ: 120 + 40√5 - 18√2 - 4√10.