Слово "небольшой" пишется слитно, так как является производным от слова "большой" и в данном случае приставка "не-" не образует новое слово, а лишь изменяет значение.

Слово "коротенький" пишется с двумя буквами "нн" потому, что после короткого гласного звука "о" стоит согласный звук "т", который не может быть написан одной буквой "н", так как это нарушило бы правила русского языка. Минимальное число повторений буквы "н" после короткого гласного в русском языке - две.