Да, суффикс -ст- существует как суффикс образования прилагательных. В данном случае, слово "молоткастый" образовано путем добавления суффикса -ст- к слову "молоток", чтобы образовать новое прилагательное с значением "похожий на молоток" или "имеющий форму молотка".