Варианты с запятой и смысл:

Казнить, нельзя помиловать. — Запрещено помилование; решение: казнить. (Нельзя относится к «помиловать».)Казнить нельзя, помиловать. — Запрещена казнь; решение: помиловать. (Нельзя относится к «казнить».)

Правило (кратко): здесь две инфинитивные формы в асиндетическом (безсоюзном) построении; слово «нельзя» — безличное сказуемое, и положение запятой показывает, к какому инфинитиву относится ограничение/запрет. Запятая ставится на месте интонационной паузы, отделяющей два эллиптических предложения или части с противопоставлением, поэтому разные позиции запятой снимают неоднозначность и указывают, какой из глаголов отрицается.