Пусть радиусы окружностей равны r, 6 и 4. Тогда можно составить систему уравнений по теореме Пифагора для правильного треугольника:

r^2 + (r + 6)^2 = (r + 4)^2

Решаем данное уравнение:

r^2 + r^2 + 12r + 36 = r^2 + 8r + 16

2r^2 + 12r + 36 = r^2 + 8r + 16

r^2 + 4r - 20 = 0

(r + 2)(r - 10) = 0

r = -2 (не подходит), r = 10

Ответ: радиус меньшей окружности равен 10.