Для упрощения данного выражения раскроем скобки по формуле разности двух квадратов:
(x-5)(x+8) = x^2 + 8x - 5x - 40 = x^2 + 3x - 40

Ответ: x^2 + 3x - 40