Если я правильно понял вопрос, то решение будет следующим:

4y(y+x^2-6) возводим в квадрат:

16y^2 + 4y(x^2) - 24y

Ответ: 16y^2 + 4y(x^2) - 24y