Для решения этой задачи можно воспользоваться теоремой Пифагора.

Обозначим длину искомого отрезка внутренней касательной за h. Тогда для треугольника, образованного радиусами и этим отрезком, можно записать уравнение:
(h + R)^2 = (h + r)^2 + (R + r)^2.

Раскрыв скобки, получаем:
h^2 + 2Rh + R^2 = h^2 + 2rh + r^2 + R^2 + r^2.

Сокращаем h^2 и R^2, получаем:
2Rh = 2rh + r^2 + r^2.

Отсюда:
h = 2r * sqrt(R/r).

Итак, длина отрезка внутренней касательной равна 2r * sqrt(R/r).