Подставляем значения x=√11 и y=√3 в выражение:

Y(5√3 + 2√11) - (√11 + √3)^2

Вычисляем значения в скобках:

5√3 + 2√11 = 5√3 + 2√(11) = 5√3 + 2√(11)
(√11 + √3)^2 = (√11)^2 + 2(√11)(√3) + (√3)^2 = 11 + 2(√33) + 3 = 14 + 2√33

Теперь подставляем оба значения обратно в выражение:

Y(5√3 + 2√11) - (√11 + √3)^2
= √3(5√3 + 2√11) - (14 + 2√33)
= 5√(9) + 2√(33) - 14 - 2√33
= 15√3 + 2√33 - 14 - 2√33
= 15√3 - 14

Таким образом, Y(5y+2x)-(x+y)^2 при x=√11 и y=√3 равно 15√3 - 14.