Для решения данной задачи воспользуемся формулами для площади прямоугольного треугольника:

S = (a * b) / 2

где S - площадь треугольника, а и b - катеты.

Также известно, что гипотенуза (c) равна 60 см:

c^2 = a^2 + b^2

Подставляем данные:

60^2 = a^2 + b^2
3600 = a^2 + b^2

Также известно, что S = 864 см^2:

864 = (a b) / 2
1728 = a b

Решим систему уравнений:

a * b = 1728
a^2 + b^2 = 3600

Из первого уравнения найдем b = 1728 / a, подставим это выражение во второе уравнение:

a^2 + (1728 / a)^2 = 3600
a^2 + 2985984 / a^2 = 3600
a^4 - 3600a^2 + 2985984 = 0

Решив квадратное уравнение, получим два возможных значения для катетов: a = 24 см и b = 72 см или a = 72 см и b = 24 см.

Больший катет равен 72 см. Ответ: 72 см.