Краткий ответ: это открытая задача — ни доказательства, ни опровержения не существует. Формулируется как одна из проблем Ландау: «есть ли бесконечно много простых вида $n^2+1$?» Ожидают, что да, но это не доказано.
Пояснения и связанные результаты.
1) Гипотезы и эвристика.
- По Бунёвкскому (Bunyakovsky) и более точно по гипотезе Батемана—Хорна для полинома $f(n)=n^2+1$ предсказывается, что число простых значений $\le X$ ведёт себя как
$$\#\{n\le \sqrt{X}:n^2+1\text{простое}\}\sim C\frac{\sqrt{X}}{\log X},$$ где $C$ — константа Батемана—Хорна, вычисляемая как произведение по простым с учётом числа корней $f$ по модулю $p$. Для $f(n)=n^2+1$ число корней равно
$$\omega (2)=1,\omega (p)=\{\begin{array}{ll}2,& p\equiv 1(\mathrm{mod}4),\\ 0,& p\equiv 3(\mathrm{mod}4).\end{array}$$
2) Известные (некондиционные) теоремы и частичные результаты.
- По теореме Дирихле бесконечно много простых $p$ с $p\equiv 1(\mathrm{mod}4)$; это значит бесконечно много простых делителей значений $n^2+1$, но это не даёт примеров вида $p=n^2+1$.
- Iwaniec (1978) показал, что существует бесконечно много $n$ таких, что $n^2+1$ имеет не более двух простых множителей (т.н. $P_2$-числа). То есть $n^2+1$ часто почти просто, но это не даёт бесконечности настоящих простых.
- Friedlander–Iwaniec (1998) доказали бесконечность простых вида $a^2+b^4$. Этот успех использует тонкие методы аналитической теории чисел (сито высокого уровня, оценки экспоненциальных сумм, спектральная теория), но техника не переносится напрямую на однопараметрический квадратичный случай $n^2+1$.
3) Применимые методы и ограничения.
- Алгебраическая теория чисел: факторизация в кольце Гауссовых целых $\mathbb{Z}[i]$ даёт интерпретацию: если $p=n^2+1$ — рациональный простое, то $p$ разлагается в $\mathbb{Z}[i]$ как $(n+i)(n-i)$. Это объясняет связь с условием $p\equiv 1(\mathrm{mod}4)$, но не решает проблему о бесконечности.
- Аналитические методы: ситовые методы, оценка сумм типа Виноградова/Бомбиери—Виноградова, методы спектра автоморфных форм, оценки экспоненциальных сумм и др. Эти методы дали многие частичные успехи (как выше), но стандартные сита недостаточно сильны, чтобы показать бесконечность простых значений одномерного квадратичного полинома.
- Условные методы: гипотезы типа Бунёвкского/Батемана—Хорна (или сильные предположения о L‑функциях) бы дали положительный ответ, но сами по себе они недоказуемы на текущем этапе.
Вывод: утверждение «существует бесконечно много простых чисел вида $n^2+1$» считается правдоподобным и предсказывается батемен-хорновской асимптотикой, но на сегодняшний день это остаётся нерешённой проблемой теории чисел; известны лишь частичные результаты (дивизоры, почти-простые значения, см. Iwaniec, Friedlander–Iwaniec) и множество методов (алгебраические и аналитические), которые пока не позволяют завершить доказательство.