Для начала выразим tg^2 a через cos^2 a:
tg^2 a = sin^2 a / cos^2 a
tg^2 a = 1 - cos^2 a / cos^2 a
tg^2 a = (1 - cos^2 a) / cos^2 a

Теперь подставим это значение в исходное выражение:
7cos^2a - 5 + (7(1 - cos^2 a) / cos^2 a) / (1 + (1 - cos^2 a) / cos^2 a)
7cos^2a - 5 + 7(1 - cos^2 a) / cos^2 a / (1 + (1 - cos^2 a) / cos^2 a)
7cos^2a - 5 + 7(1 - cos^2 a) / cos^2 a / (1 + 1 / cos^2 a - cos^2 a / cos^2 a)
7cos^2a - 5 + 7(1 - cos^2 a) / cos^2 a / (1 + 1 / cos^2 a - 1)
7cos^2a - 5 + 7(1 - cos^2 a) / cos^2 a / (1 + 1 / cos^2 a - 1)
7cos^2a - 5 + 7(1 - cos^2 a) / cos^2 a / 1 / cos^2 a
7cos^2a - 5 + 7(1 - cos^2 a) / cos^2 a * cos^2 a
7cos^2a - 5 + 7(1 - cos^2 a)
7cos^2a - 5 + 7 - 7cos^2 a
7 - 5