Это выражение не факторизуется; возможно, знаки не те. Максимум можно преобразовать в 4b^2(2b+9a) - 27a^2(2b+a), вычисление дает -1205