Короткий вывод, с которым всё начинается

Радиус девятиточечной окружности любого треугольника равен половине радиуса описанной окружности:
R9 = R/2.
(Это стандартное свойство: девятиточечная окружность проходит через середины сторон и середины отрезков от ортцентра до вершин.)

Следствие для уравнения R9 = r + R

Подставив R9 = R/2, получаем
R/2 = r + R ⇒ r = −R/2,
что невозможно, так как r > 0 и R > 0. Следовательно, нет ни одного (невырожденного) треугольника, удовлетворяющего R9 = r + R.

Обобщение: линейная комбинация
Исследуем общее уравнение вида
R9 = α r + β R,
подставляя R9 = R/2 имеем эквивалентное условие
1/2 = α (r/R) + β,
то есть
r/R = (1/2 − β)/α, (при α ≠ 0).
Обозначим ρ := r/R. Из известных неравенств (Эйлерова неравенства) следует
0 < ρ ≤ 1/2,
причём ρ = 1/2 тогда и только тогда, когда треугольник равносторонний.

Критерий существования решений

Если α = 0, то уравнение даёт β = 1/2 (иначе нет решений). При α = 0, β = 1/2 мы имеем тавтологию R9 = (1/2)R, верную для всех треугольников.Если α ≠ 0, то решение существует тогда и только тогда, когда требуемое значение
ρ0 := (1/2 − β)/α
лежит в интервале (0, 1/2]. В таком случае существует хотя бы один (и более того — бесконечно много) подобных классов треугольников с r/R = ρ0.

Почему любые допустимые ρ0 достижимы

Формула через углы: r/R = 4 sin(A/2) sin(B/2) sin(C/2). Поскольку множество углов (A,B,C) с A+B+C = π задаёт компактное и связное пространство, функция f(A,B,C) = 4 sin(A/2) sin(B/2) sin(C/2) — непрерывна и принимает значения от 0 (при вырождающемся треугольнике) до 1/2 (при равностороннем). Значит любой ρ0 ∈ (0,1/2] является значением f для некоторого треугольника.Конструктивно: можно взять семейство равнобедренных треугольников с B = C = (π − A)/2. Тогда
ρ(A) = 4 sin(A/2) sin^2((π − A)/4) = 8 sin(A/4) cos^3(A/4),
и при A ∈ (0, π) эта функция непрерывна, принимает значения от 0 до 1/2, поэтому для любого допустимого ρ0 найдётся подходящее A. Таким образом для каждого допустимого ρ0 существует одномерное (параметризуемое, например, углом A) семейство несравнимых по подобию треугольников с r/R = ρ0.

Некоторые частные случаи

α = 1, β = 1 (наш начальный случай): ρ = (1/2 − 1)/1 = −1/2 — невозможно → нет треугольников.Уравнение R9 = r (то есть R/2 = r) даёт ρ = 1/2 и потому единственный (в классе подобия) треугольник — равносторонний (единственный up to подобие).Уравнение R9 = R − r даёт то же равенство r = R/2, т. е. опять только равносторонний.

Замечания о множественности решений

Для фиксированного допустимого значения ρ0 множество треугольников (до подобия) с r/R = ρ0 — одномерное (не конечное): одно условие на две степени свободы (два угла) даёт одномерное семейство. В частности одно можно взять семейство равнобедренных треугольников с правильно выбранным углом вершины.

Итоговые выводы

Уравнение R9 = r + R не имеет решений (невозможное из-за положительности радиусов).В общем случае линейного уравнения R9 = α r + β R эквивалентная задача сводится к требованию r/R = (1/2 − β)/α; решения существуют тогда и только тогда, когда это значение лежит в интервале (0,1/2], в противном случае решений нет.Для любого допустимого значения r/R существует бесконечное (одномерное) семейство треугольников, реализующих его; равносторонний треугольник даёт единственный экстремальный случай ρ = 1/2.

Если хотите, могу:

привести явную формулу/численный пример треугольника для заданного коэффициента (α,β) в случае существования;проиллюстрировать поведение функции ρ(A) в равнобедренном семействе и показать численные графики/значения.