Коротко и по делу — несколько способов и полученный разлож:
1) Симметрия (палиндром): коэффициенты симметричны, значит удобно положить $t=x+\frac{1}{x}$. Делим на $x^2$:
$$\frac{x^4-5x^3+8x^2-5x+1}{x^2}=x^2-5x+8-5x^{-1}+x^{-2}=(x^2+x^{-2})-5(x+x^{-1})+8.$$ Так как $x^2+x^{-2}=t^2-2$, получаем
$$t^2-5t+6=0\Rightarrow (t-2)(t-3)=0.$$ Для $t=2$: $x+\frac{1}{x}=2\Rightarrow x^2-2x+1=(x-1{)}^2$.
Для $t=3$: $x+\frac{1}{x}=3\Rightarrow x^2-3x+1=0$.
Отсюда факторизация:
$$x^4-5x^3+8x^2-5x+1=(x-1{)}^2(x^2-3x+1).$$
2) Факторизация в виде двух квадратиков с постоянной $1$: подставим
$$(x^2+ux+1)(x^2+vx+1)=x^4+(u+v)x^3+(uv+2)x^2+(u+v)x+1.$$ Сравнивая с исходным, получаем $u+v=-5,uv=6$, откуда $u=-2,v=-3$ (или наоборот), т.е.
$$(x^2-2x+1)(x^2-3x+1)=(x-1{)}^2(x^2-3x+1).$$
3) Рациональные корни и кратность: по тесту рациональных корней возможны $\pm 1$. Подстановка даёт $P(1)=0$, проверка производной
$$P^{\prime }(x)=4x^3-15x^2+16x-5,P^{\prime }(1)=0,$$ а $P^{\prime \prime }(1)=-2\ne 0$, значит корень $x=1$ кратности $2$.
Корни квадрата $x^2-3x+1$: $x=\frac{3\pm \sqrt{5}}{2}$ (вещественные).
Итог — разложение над $\mathbb{R}$ и $\mathbb{C}$:
$$x^4-5x^3+8x^2-5x+1=(x-1{)}^2(x^2-3x+1)$$ и в линейных множителях:
$$(x-1{)}^2\left(x-\frac{3+\sqrt{5}}{2}\right)\left(x-\frac{3-\sqrt{5}}{2}\right).$$