Разбор исходного фрагмента
Код:

parent(alice, bob).
parent(bob, carol).

ancestor(X,Y) :- parent(X,Y).
ancestor(X,Y) :- parent(X,Z), ancestor(Z,Y), !.

Что делает cut (!) в этом месте

cut (!) исполняется в теле второго правила после успешного вывода ancestor(Z,Y).Когда cut выполняется, он отсекает (удаляет) все альтернативы, созданные с момента входа в текущее вычисление ancestor(X,Y). Это включает:
другие варианты для parent(X,Z) (другие Z),другие доказательства для ancestor(Z,Y),другие правила для ancestor/2 (в том числе первый факт ancestor(X,Y) :- parent(X,Y)), — в тех случаях, когда эти альтернативы ещё были доступны для текущего вызова.

Следствие: cut здесь не просто "оптимизация", он меняет множества возвращаемых решений. Это не деклараторное (нелогическое) поведение — cut делает предикат процедурным и может приводить к пропуску корректных предков.

Пример нежелательного поведения
Допустим есть факты

parent(a,b).
parent(a,c).
parent(b,d).
parent(c,e).

Ожиданные предки для a: b, c, d, e.
С вашим кодом при запросе ancestor(a,X) Prolog может вернуть:

сначала X = b (первое правило),при следующем решении перейдёт ко второму правилу, возьмёт Z = b, найдет d, выполнит cut — и после cut все оставшиеся альтернативы (например Z = c и связанный с ним e) будут отрезаны. В результате возвращаются только b и d, а c и e теряются. Это классический пример "красного" cut — он меняет семантику предиката и ведёт к неполному поиску.

Логическая (без побочных эффектов) версия
Простая декларативная версия (удалить cut):

ancestor(X,Y) :- parent(X,Y).
ancestor(X,Y) :- parent(X,Z), ancestor(Z,Y).

Эта версия не использует cut и возвращает все корректные предки (в тех случаях, когда поиск завершается). Она полностью логична и не имеет побочных эффектов.

Дополнения для практичности (избежать зацикливания)
Если в графе предков есть циклы, простая рекурсивная версия может зациклиться. Два распространённых способа устранить проблему:

1) Использовать аккумулятор "visited" (чистый, без побочных эффектов):

ancestor(X,Y) :- ancestor(X,Y,[X]).

ancestor(X,Y,_) :-
parent(X,Y).
ancestor(X,Y,Visited) :-
parent(X,Z),
+ member(Z,Visited),
ancestor(Z,Y,[Z|Visited]).

Здесь мы начинаем с Visited = [X] и не посещаем уже посещенные узлы, поэтому циклы не приведут к бесконечной рекурсии.

2) Если ваша реализация Prolog поддерживает таблирование (tabling, e.g. SWI-Prolog, XSB), включите таблирование для ancestor/2:

:- table ancestor/2.

ancestor(X,Y) :- parent(X,Y).
ancestor(X,Y) :- parent(X,Z), ancestor(Z,Y).

Таблирование гарантирует завершение (и отсутствие дубликатов) для конечных графов и сохранит логическую семантику.

Краткое резюме

cut в данном коде является "красным": он прерывает поиск и может отбросить корректные решения.Самый простой логичный исправленный вариант — просто удалить !.Чтобы избежать зацикливания в реальных данных, используйте аккумулятор visited или таблирование.