Коротко: поведение зависит от формата. В IEEE‑754 single (float32) с 24 битами мантиссы $(10^8)$ так велико, что прибавление $1$ не меняет представления, и $(10^8+1)-10^8=0$. В double (53 бита) оба числа представимы, и выражение даёт $1$.
Почему так происходит (суть):
- Точность числа определяется числом бит мантиссы; все целые до $2^p$ точно представлены ($p=24$ для float32, $p=53$ для float64). Например, $2^{24}=16777216$, $2^{53}=9007199254740992$.
- Для числа с экспонентой $e$ шаг между соседними представимыми числами (ULP) ≈ $2^{e-p+1}$. Если ULP $>1$, то прибавление $1$ теряется (округляется назад).
- Операции неассоциативны и округляются: $(a+b)-c$ может отличаться от $(a-c)+b$.
Рекомендованные подходы для получения точного целочисленного результата и краткие примечания:
1. Использовать целочисленный тип (int32/int64 или бОльшую целую арифметику): тогда $(10^8+1)-10^8=1$ точно. (Самый надёжный.)
2. Перейти на более высокую точность (double, long double, MPFR/BigFloat): если формат даёт достаточную мантиссу, операция точна.
3. Использовать десятичные/фиксированные типы (decimal128, фикс. точка) когда важны десятичные целые без потерь.
4. Переупорядочить вычисления, чтобы избежать «поглощения»: вместо $(a+b)-a$ вычислить $(a-a)+b$ (если $a$ представляется одинаково при вычитании) или явно обрабатывать малые добавки. Пример: $(10^8-10^8)+1=1$.
- Внимание: переупорядочивание само по себе может быть опасно, если вычитание $(a-a)$ страдает округлением из‑за представлений.
5. Компенсированная сумма (Kahan, pairwise summation) для суммирования многих слагаемых, чтобы уменьшить накопленную ошибку.
6. Явная проверка масштаба перед суммированием: если $|b|<\mathrm{ulp}(a)$, то $a+b$ не изменит $a$ — можно обработать отдельно (например, аккумулировать мелкие вклады отдельно).
7. При невозможности поменять тип — использовать библиотеку с произвольной точностью или хранить мантиссу и экспоненту вручную.
Типичные ситуации, где очевидные алгебраические тождества дают неверный результат:
- $(a+b)-b\ne a$ при округлениях (катастрофическая потеря значащих цифр).
- $(x\cdot y)/y\ne x$ если умножение/деление округляются или есть переполнение/недополнение.
- Дистрибутивность и ассоциативность не выполняются: $a(b+c)$ может отличаться от $ab+ac$.
- Вычитание близких по величине чисел приводит к катастрофической потере значащих цифр (cancellation).
Короткий практический совет: если вам гарантированно нужны целые результаты — используйте целые типы; если числа могут быть большими, но вы хотите точность целых — используйте целые с широкой разрядностью или произвольную точность. Если остаётесь на float — либо повышайте точность до той, где ULP на интересующем масштабе ≤ $1$, либо явно обрабатывайте малые добавки.