Пусть наши числа будут a, ar и ar^2, где a - первый член прогрессии, r - знаменатель прогрессии.
Тогда у нас есть система уравнений:
a + ar + ar^2 = 7 (1)
a^2 + a^2r^2 + a^2r^4 = 91 (2)

Из уравнения (1) найдем a:
a(1 + r + r^2) = 7
a(1 + r)(1 + r) = 7
a = 7 / ((1 + r)(1 + r))

Подставляем это значение в уравнение (2):
(49 / ((1 + r)(1 + r))(1 + r)(1 + r) + 49 / ((1 + r)(1 + r))(1 + r)(1 + r)^2 + 49) = 91
49(1 + r)(1 + r) + 49(1 + r)(1 + r)(1 + r)^2 + 49 = 91(1 + r)(1 + r)(1 + r)^2
49(1 + 2r + r^2) + 49(1 + r + r^2)(1 + r)^2 = 91(1 + 3r + 3r^2 + r^3)
49(1 + 2r + r^2) + 49(1 + 2r + r^2)(1 + r) = 91(1 + 3r + 3r^2 + r^3)
что даст нам значение r.

Теперь зная r, найдем a и будем иметь все три числа.