Короткий ответ: усечение рядa допустимо тогда и только тогда, когда отброшенный остаток при делении на знаменатель стремится к нулю быстрее (или не медленнее), чем сохраняемые члены. Для конкретного предела sin x / x достаточно показать, что остаток при разложении sin x в ряд Тейлора задаётся величиной o(x) (тогда остаток/ x → 0). Это можно сделать строго с помощью формулы остатка Лагранжа или оценок o- и O-.

Детали (строго и просто).

1) Формула Тейлора с остатком (Лагранжа)
Пусть f(x)=sin x, разложение в окрестности 0. Если взять многочлен Тейлора степени 3 (сохраним члены x и −x^3/6), то
sin x = x − x^3/6 + R(x),
и по формуле Лагранжа для n=3 существует ξ между 0 и x такой, что
R(x) = f^{(4)}(ξ) x^4 / 4! = sin ξ · x^4 / 24.

2) Оценка остатка
Так как |sin ξ| ≤ |ξ| ≤ |x|, получаем строгую оценку
|R(x)| ≤ |x|·|x|^4 / 24 = |x|^5 / 24.
Отсюда
|R(x)/x| ≤ |x|^4 / 24 → 0 при x → 0.

3) Применение к пределу
Разделим на x:
sin x / x = 1 − x^2/6 + R(x)/x.
Так как R(x)/x → 0, имеем
lim_{x→0} sin x / x = 1.
Более того, можно дать явную неравенственную оценку погрешности:
|sin x / x − 1| ≤ x^2/6 + |x|^4/24.

4) Общий принцип (когда усечение допустимо)
Если вы хотите вычислить предел вида f(x)/g(x) при x→0, и используете разложение f(x)=P_n(x)+R_n(x) (P_n — полином степени n), то усечение допустимо, когда R_n(x)/g(x) → 0. Для этого достаточно знать порядок остатка (Lagrange: R_n(x)=f^{(n+1)}(ξ) x^{n+1}/(n+1)!, или форма Пеано R_n(x)=o(x^n)). Часто удобно брать степень ряда так, чтобы остаток был высшего порядка по сравнению с знаменателем.

5) Альтернативы
Можно получить тот же результат и без разложений: классическая «сэндвич»-оценка sin x < x < tan x (для 0<x<π/2) даёт тоже lim sin x / x = 1, или воспользоваться правилом Лопиталя.

Вывод: студент мог отбросить остаток, потому что для sin x остаток после членов до x^3 имеет порядок O(x^5), а значит при делении на x он даёт вклад O(x^4) → 0; поэтому строгое значение предела равно 1.