Доказать отсутствие алгоритма для решения какой-либо задачи можно с помощью алгоритмической неразрешимости. Алгоритмическая неразрешимость означает, что не существует алгоритма, который бы в общем случае правильно решал данную задачу для всех входных данных.

Один из классических примеров алгоритмически неразрешимой задачи - проблема останова: нет общего алгоритма, который мог бы определить, остановится ли произвольная программа на произвольных входных данных.

Чтобы углубиться в тему алгоритмической неразрешимости, рекомендуется прочитать книгу "Introduction to the Theory of Computation" Майкла Сипсера или "Computability and Logic" Джорджа Бургесса и Ричарда Эпштейна.

Также можно изучить теорию сложности вычислений и теорию алгоритмов, чтобы лучше разобраться в понятии алгоритмической неразрешимости.