Стратегия: сравнить степени и старшие коэффициенты, затем подставить общий вид квадратичного многочлена и приравнять коэффициенты при степенях.
Решение.
- Пусть $\mathrm{deg}P=d$. Тогда $\mathrm{deg}(P\circ P)=d^2$. Так как правая часть равна $x^4$, имеем $d^2=4$, значит $d=2$.
- Пусть $P(x)=a{x}^2+bx+c$ с $a\ne 0$. Старший коэффициент при $x^4$ в $P(P(x))$ равен $a^3$, поэтому $a^3=1$. Для вещественных коэффициентов это даёт $a=1$.
- Тогда $P(x)=x^2+bx+c$. Подставляем в композицию:
$$P(P(x))=(x^2+bx+c{)}^2+b(x^2+bx+c)+c.$$ Разложение даёт член при $x^3$ равный $2b$, откуда $b=0$. При $b=0$ остаётся
$$P(P(x))=x^4+2c{x}^2+c^2+c.$$ Чтобы это равнялось $x^4$, нужно $2c=0$ и $c^2+c=0$. Из первого следует $c=0$ (второе тогда автоматически выполняется).
- Значит единственное решение — $P(x)=x^2$.
Исключённые классы: константные и линейные многочлены исключаются по степени; квадратичные с $a\ne 1$ исключаются по условию $a^3=1$ (единственный вещественный корень $a=1$); квадратичные с $b\ne 0$ исключаются по коэффициенту при $x^3$. Таким образом других многочленов с вещественными коэффициентами нет.