Для начала найдем площадь треугольника ABC.

По формуле площади треугольника через катеты S = (ab)/2, где a и b - длины катетов, получаем S = (512)/2 = 30.

Теперь найдем полупериметр треугольника ABC:

p = (AC + BC + AB)/2,
где AB - гипотенуза.

Из формулы Пифагора AB^2 = AC^2 + BC^2, находим AB = √(AC^2 + BC^2) = √(5^2 + 12^2) = √(25 + 144) = √169 = 13.

Тогда p = (5 + 12 + 13)/2 = 30/2 = 15.

Теперь найдем радиус вписанной окружности по формуле:

r = S/p = 30/15 = 2.

Итак, радиус вписанной окружности треугольника ABC равен 2.