Для упрощения данного выражения, раскроем скобки и выполним операции с одинаковыми переменными:

3х(х^2-1)+х^2(5-3х) =
3х^3 - 3х + 5х^2 - 3х^3 =
5х^2 - 3х + 3х^3 - 3х^3 =
5х^2 - 3х

Таким образом, упрощенное выражение равно 5х^2 - 3х.