Для упрощения данного выражения сначала раскроем скобки:

(√5 + √3)² = (√5 + √3)(√5 + √3)
= √5 √5 + √5 √3 + √3 √5 + √3 √3
= 5 + 2√15 + 3
= 8 + 2√15

Теперь подставим это значение в исходное выражение:

(√5+√3)² - √120 = (8 + 2√15) - √120
= 8 + 2√15 - √(4*30)
= 8 + 2√15 - 2√30
= 8 + 2(√15 - √30)