Для упрощения данного выражения воспользуемся формулами тригонометрии:

cos^2(a) = 1 - sin^2(a) (тождество тангенса)tg(a) * ctg(a) = 1

Используя эти тождества, упростим выражение:

cos^2(a) - 1/(1 - sin^2(a) - tg(a) * ctg(a)) = 1 - sin^2(a) - 1/(1 - sin^2(a) - 1) = 1 - sin^2(a) - 1/(1 - sin^2(a) - 1) = -sin^2(a).

Таким образом, упрощенное выражение равно -sin^2(a).