Частным решением данного дифференциального уравнения y''-5y'=x^2e^5x может быть функция вида y_p = Ax^2e^5x, где A - некоторая константа, которую нужно определить.

Дифференцируем функцию y_p дважды и подставим ее в исходное уравнение:

y_p' = 2Axe^5x + Ax^2e^5x
y_p'' = 2Ae^5x + 2Ae^5x + 2Axe^5x + 2Axe^5x = 4Ae^5x + 4Axe^5x

Подставляем y_p и его производные в уравнение y''-5y'=x^2e^5x:

4Ae^5x + 4Axe^5x - 5$2Ax{e}^{5}x+A{x}^2{e}^{5}x$ = x^2e^5x

4Ae^5x + 4Axe^5x - 10Axe^5x - 5Ax^2e^5x = x^2e^5x

Упрощаем уравнение:

$4A-10A$x^2e^5x = x^2e^5x

-6Ax^2e^5x = 0

Получаем уравнение -6Ax^2 = 0, из которого следует, что A = 0.

Таким образом, частным решением дифференциального уравнения y''-5y'=x^2e^5x является функция y_p = 0.