В данном случае, сокращать выражение ((a-1)(4-a)) нельзя, поскольку это не дробь, а произведение двух многочленов. Сокращение возможно только в том случае, если у вас есть дробь, и в числителе и знаменателе имеется общий множитель.

Ваша запись может быть раскрыта, но не сокращена. Раскрыв скобки, получим:

[
(a-1)(4-a) = a \cdot 4 - a^2 - 1 \cdot 4 + 1 \cdot a = 4a - a^2 - 4 + a = -a^2 + 5a - 4
]

Так что главное правило — сокращать можно только в дробях, а в произведениях сокращения не производится.