Для начала преобразуем данное уравнение:
5a^3 + 15a^2 - 20a - 60 = a^2 - 9
5a^3 + 15a^2 - 20a - 60 - a^2 + 9 = 0
5a^3 + 14a^2 - 20a - 51 = 0

Теперь найдем корни этого уравнения. К сожалению, данное уравнение не является квадратным, поэтому для нахождения его корней можно воспользоваться численными методами или графическим методом.

Мы видим, что уравнение содержит многочлен третьей степени, поэтому его корень можно найти численными методами, например с помощью метода Ньютона.

Для этого нужно выбрать начальное приближение и вычислять следующие приближения по формуле:
x_n+1 = x_n - f(x_n) / f'(x_n)

Где f(x) - данное уравнение, а f'(x) - его производная.

Далее необходимо продолжать итерационный процесс до тех пор, пока значение f(x) приближается к нулю.

Этот метод позволяет находить приближенные значения корней любых уравнений.