3ab + 6b²\a² - 4b²

Упрощаем числитель и знаменатель:
3ab + 6b² - 4b²
3ab + 2b²

Окончательное упрощенное выражение:
3ab + 2b²