Кратко — где ошибка и как исправить.
Ошибка. В одном шаге делают деление на выражение, которое может равняться нулю (например, на $n$ или на $n-1$) без явного оговорки, что для рассматриваемых $n$ этот множитель ненулевой. Деление на ноль недопустимо, поэтому такое рассуждение неформально (или вообще неверно для тех $n$, где знаменатель равен нулю).
Правильное доказательство (несколько эквивалентных вариантов).
1) Прямое алгебраическое:
$$S(n)=1+2+\cdots +n=\frac{n(n+1)}{2}.$$ Для $n>1$ можно делить на положительное $n$, поэтому
$$\frac{n(n+1)}{2}<n^2⟺\frac{n+1}{2}<n⟺n+1<2n⟺1<n.$$ Последнее верно при $n>1$. Следовательно $S(n)<n^2$ для всех $n>1$.
2) Через разность:
$$n^2-S(n)=n^2-\frac{n(n+1)}{2}=\frac{n(n-1)}{2}.$$ Для $n>1$ выражение $\frac{n(n-1)}{2}>0$, значит $S(n)<n^2$.
3) Индукция (с явным базовым случаем, чтобы избежать деления на ноль):
База: при $n=2$ имеем $S(2)=3<4=2^2$.
Шаг: пусть для некоторого $k\ge 2$ выполнено $S(k)<k^2$. Тогда
$$S(k+1)=S(k)+k+1<k^2+k+1=(k+1{)}^2-k<(k+1{)}^2,$$ поскольку $k>0$. Значит свойство сохраняется для $k+1$.
Замечание о корректности: при любых выкладках, где производится деление, обязательно проверять и оговаривать, что знаменатель не равен нулю (и при необходимости положителен, если меняется знак при умножении/делении). В приведённых корректных доказательствах все такие допущения выполнены: либо условие $n>1$ даёт ненулевой знаменатель, либо используются лишь вычитание/умножение.