Для сокращения дроби нужно умножить числитель и знаменатель на √21+√7:

(3-√3)/(√21-√7) * (√21+√7)/(√21+√7)
= (3√21 + 3√7 - √63 - √21)/(21 - 7)
= (3√21 + 3√7 - √63 - √21)/14
= (3√21 + 3√7 - √63 - √21)/14
= (2√21 + 3√7 - √63)/14