Обозначим угол А через α, угол С через β, сторону AB через х, сторону BC через у.

Из условия задачи имеем:
α = 2β
у = х + 2
AC = 5

Применим закон косинусов в треугольнике ABC:
AC² = AB² + BC² - 2 AB BC * cos(α)

5² = x² + (x + 2)² - 2 x (x + 2) * cos(2β)

25 = x² + x² + 4x + 4 - 2x² - 4x * cos(2β)

25 = x² - 4x * cos(2β) + 4

Так как α = 2β, то cos(2β) = cos(α) = cos(180° - β)
Из тождества косинуса суммы, имеем:
cos(180° - β) = -cos(β)

Подставляем:
25 = x² + 4x * cos(β) + 4

Так как в треугольнике сумма углов равна 180°, то α + β + С = 180°, или
3β = 180°
β = 60°
α = 120°

Подставляем:
25 = x² + 4x * cos(60°) + 4
25 = x² + 2x + 4
x² + 2x - 21 = 0

Решаем уравнение:
x = ( -2 ± √(2² + 4121) ) / 2
x = ( -2 ± √(4 + 84) ) / 2
x = ( -2 ± √88 ) / 2
x = ( -2 ± 2√22 ) / 2
x₁ = -1 + √22
x₂ = -1 - √22

Так как сторона не может быть отрицательной, то AB = -1 - √22, а BC = 1 + √22.