Для начала найдем значения переменных x и y:

x = √11
y = √3

Теперь подставим значения переменных в выражение:

у(5у + 2х) - (x + у)^2
= √3(5√3 + 2√11) - (√11 + √3)^2
= 15 + 10√33 - (11 + 2√33 + 3)
= 15 + 10√33 - 11 - 2√33 - 3
= 1 + 8√33

Итак, значение выражения у(5у + 2х) - (x + у)^2 при x=√11, y=√3 равно 1 + 8√33.