Коротко — три способа вывода, рекурренты и марковская модель, с основными формулами.
Обозначения: $p=\mathrm{Pr}(\text{орёл})$, $q=1-p$. Пусть $T$ — число подбрасываний до появления двух подряд орлов, $a_n=\mathrm{Pr}(T=n)$.
1) Первый шаг / рекурренция по состояниям «последний бросок — H или нет».
Введём состояния: 0 — последний бросок не H (или ещё не бросали), 1 — последний бросок H, 2 — поглощающее (HH).
Условная разложение даёт для $n\ge 3$ $$a_n=q{a}_{n-1}+pq{a}_{n-2},$$ с начальными значениями
$$a_1=0,a_2=p^2.$$ (Обоснование: из состояния 0 после одного броска либо переход в 0 с вероятностью $q$, либо в 1 с вероятностью $p$; из состояния 1 при первом броске хвост переводит в 0, орёл — поглощение.)
2) Метод порождающей функции (или «по первым шагам»).
Пусть $F(s)=\mathbb{E}[s^T]={\sum }_{n\ge 1}{a}_n{s}^n$. Из первого шага
$$F(s)=qsF(s)+ps(ps+qsF(s)),$$ откуда
$$F(s)=\frac{p^2{s}^2}{1-qs-pq{s}^2}.$$ Разложение этой дроби по степеням $s$ даёт ту же рекурренцию и явные коэффициенты (см. пункт 3).
3) Решение рекурренции в явном виде.
Характеристическое уравнение
$$r^2-qr-pq=0,$$ корни
$$r_{1,2}=\frac{q\pm \sqrt{q^2+4pq}}{2}.$$ Тогда для $n\ge 2$ $$a_n=p^2\frac{(q-r_2)r_1^{n-2}+(r_1-q)r_2^{n-2}}{r_1-r_2},$$ что эквивалентно решению рекуррентного соотношения с заданными начальными условиями.
4) Марковская цепь / матричный подход.
Остаёмся с двумя невозвратными состояниями 0 и 1 (перед попаданием в поглощающую 2). Матрица перехода для невпитывающей части
$$Q=\left(\begin{array}{cc}q& p\\ q& 0\end{array}\right),$$ начальное распределение $v_0=(1,0)$. Тогда вектор вероятностей нахождения в состояниях 0,1 после $n-1$ шагов (до поглощения) равен $v_0{Q}^{n-1}$, и
$$a_n=p\cdot (v_0{Q}^{n-1}{)}_2,$$ поскольку чтобы поглотиться на шаге $n$, на шаге $n-1$ нужно быть в состоянии 1, а затем выпадает H с вероятностью $p$. Диагонализация $Q$ даёт явную форму через $r_{1,2}$, совпадающую с пунктом 3.
Дополнительно: математическое ожидание и проверка.
Решая уравнения для средних времён из состояний 0 и 1,
$$E_0=1+q{E}_0+p{E}_1,E_1=1+q{E}_0,$$ получаем
$$\mathbb{E}[T]=E_0=\frac{1+p}{p^2}.$$
Заключение (кратко): основные подходы — первый шаг и рекуррентные соотношения, генераторная функция/аналитическое решение рекуррентов, и марковская модель с матричными степенями; все они дают одинаковое распределение, задаваемое рекуррентой $a_n=q{a}_{n-1}+pq{a}_{n-2}$ и явной формулой через корни характеристического уравнения выше.