При вставной конструкции с восклицательным или вопросительным знаком перед ней обычно ставится запятая, а после нее – восклицательный или вопросительный знак.

Примеры:

Я, кстати, сегодня поздравила ее с днем рождения!Ты, кажется, сделал это намеренно?Уже пора вставать, правда?Он, по-моему, не понимает, насколько это важно!Мы, наверное, заблудились в лесу?

Однако в некоторых случаях запятая может быть опущена, если вставная конструкция короткая и не изменяет основной смысл предложения.

Примеры:

Я все еще надеюсь!Она ничего не ответила.Мы уже приехали!