Это происходит из-за того, что в украинском языке существует понятие "твердости" и "мягкости" согласных звуков. В данном случае, буква "ь" после гласного указывает на его мягкость, в то время как без этой буквы гласный звук будет твердым. Таким образом, в словах "[м'ал]" и "[мал]" мы имеем разные гласные звуки ([я] и [а]) из-за разной твердости согласных звуков перед ними.