Коротко — потому что у этих множеств различаются топологические инварианты, которые сохраняются при гомеоморфизмах. Приведу два простых и понятных аргумента.

1) Компактность

[0,1] — компакт (в R все замкнутые и ограниченные множества компакты).R некомпактно (например, покрытие { (n−1,n+1) }_{n∈Z} не имеет конечного подпокрытия).
Если бы существовал гомеоморфизм f:[0,1]→R, то образ компактного множества был бы компактным, т.е. R был бы компактен — противоречие. Следовательно гомеоморфизма нет.

2) Свойство «точек‑разрезов» (cut‑points)

Для x∈R множество R{x} распадается на две непересекающиеся непустые части (−∞,x) и (x,∞), т.е. каждая точка R — точка‑разрез.В [0,1] есть точки (концы 0 и 1), удаление которых не разъединяет множество: [0,1]{0}=(0,1] — связное; аналогично для 1. Значит в [0,1] существуют точки, которые не являются точками‑разрeзами.
Поскольку свойство «все точки — точки‑разрезы» сохраняется при гомеоморфизмах, [0,1] и R не могут быть гомеоморфны.

Другие пары множеств, отличающиеся этими инвариантами (с кратким объяснением)

[0,1] и (0,1): различаются компактностью ([0,1] компактен, (0,1) — нет).S^1 (окружность) и R: S^1 компактен, R — нет.S^1 и [0,1]: у S^1 удаление любой точки даёт связное множество (образ — открытый интервал), в [0,1] есть точки‑разрезы (внутренние точки), значит они не гомеоморфны.D^2 (замкнутый диск) и R^2: D^2 компактен, R^2 — нет.Конечное множество с n точками и конечное множество с m точками (n≠m): кардинальность компонентов (число точек) — инвариант для дискретных пространств.R и (0,1) — пример, наоборот, гомеоморфны (например, x↦tan(π(x−1/2))). Это показывает, что не всякая разница в «краях» мешает гомеоморфизму; надо проверять именно топологические инварианты.

Замечание о «концах» (ends): для неметрических пространств полезно учитывать число «концов» или структуру окрестностей точек (наличие границы/концов), количество связных компонент после удаления точки и т.п. Компактность и наличие/отсутствие точек‑разрезов — самые простые и наглядные инструменты для задачи [0,1] ≁ R.