Для того чтобы сократить дробь, выделим общий множитель в числителе и знаменателе:

ab - 3b² = b(a - 3b)
a² - 3ab = a(a - 3b)

Теперь можем сократить дробь:

(b(a - 3b))/(a(a - 3b)) = b/a