Для начала факторизуем числитель и знаменатель дроби:

x^5 + 5x^4 - 16x - 80 = x^4(x + 5) - 16(x + 5) = (x^4 - 16)(x + 5) = (x^2 - 4)(x^2 + 4)(x + 5) = (x - 2)(x + 2)(x^2 + 4)(x + 5)

x^4 - 21x^2 - 100 = (x^2 - 25)(x^2 + 4) = (x - 5)(x + 5)(x^2 + 4)

Теперь дробь будет иметь вид:

((x - 2)(x + 2)(x^2 + 4)(x + 5))/((x - 5)(x + 5)(x^2 + 4))

Замечаем, что множители x^2 + 4 сокращаются и получаем окончательный ответ:

(x - 2)(x + 2)/(x - 5)