Нет однозначного ответа — «самый сложный пример» зависит от области и критерия сложности. Коротко — главные претенденты:
- Проблема $P$ versus $NP$ — фундаментальна для теории вычислений; решение радикально повлияет на криптографию и алгоритмы.
- Римановская гипотеза — определяет распределение простых чисел; ключевая открытая проблема в аналитической теории чисел.
- Задачи из списка проблем Миллениума (всего $7$, из которых $6$ всё ещё нерешены) — в числе них Навье–Стокс, Бирча–Свинон‑Дайер, Ходжа, Янга–Миллса и др.
- Гипотеза Коллатца — простая формулировка, но длительное отсутствие прогресса делает её чрезвычайно трудной по своей природе.
Если вы имели в виду «самый сложный пример» в другом смысле (школьный пример, логическая задачка, головоломка), уточните, какую область вы имеете в виду.