Коротко: фраза «набор точек, где $f^{\prime }(x)=0$, достаточно большой» без уточнения некорректна — «достаточно большой» надо формализовать (мера, топология, регулярность функции и т. п.). Ниже — какие точные условия дают константность и какие контрпримеры показывают, что некоторых «великостей» недостаточно.
Что не хватает в формулировке
- «Достаточно большой» можно понимать по-разному: положительная/полная мера, содержит непустой интервал, плотный (dense), комеагерный (comeager) и т. д. Результат зависит от выбора этой метрики и от дополнительной регулярности $f$.
Сильные достаточные условия (ясные, стандартные)
1) Абсолютная непрерывность + нуль почти везде:
- Если $f$ абсолютно непрерывна на отрезке $[a,b]$ и $f^{\prime }(x)=0$ почти всюду (w.r.t. Лебега), т.е. $f^{\prime }(x)=0$ для почти всех $x$, то
$$f(x)=f(a)+{\int }_a^x{f}^{\prime }(t)dt=f(a),$$ поэтому $f$ константна на $[a,b]$.
2) Непрерывная производная:
- Если $f\in C^1$ (т.е. $f^{\prime }$ непрерывна) и $f^{\prime }(x)=0$ на плотном множестве, то по непрерывности $f^{\prime }\equiv 0$ и $f$ константна.
3) Наличие непустого интервала нулей:
- Если нули производной содержат отрезок (нелёгкая часть, т.е. имеют непустой внутренний вид), то на этом отрезке $f$ константна; если нули покрывают весь интервал — $f$ константна на нём.
Контрпримеры (показывают, что некоторые «большие» множества не достаточны)
- Канторова функция (singular function): непрерывна, ненасыщена, имеет $f^{\prime }(x)=0$ почти везде, но не константна. Значит «нулевая производная на множестве меры ноль» (или даже «на множестве полной меры») без абсолютной непрерывности $f$ не даёт константности.
- Функция Вольтерры: существует дифференцируемая всюду функция, у которой производная равна нулю на плотном множестве, но функция не константна. Следовательно плотности нулей (само по себе) недостаточно, если не требовать дополнительной регулярности $f^{\prime }$ (например, непрерывности).
Короткие выводы и полезные формулировки
- Надо формализовать «достаточно большой»:
- Если вы хотите работать с мерой: «$f^{\prime }(x)=0$ почти всюду» + «$f$ абсолютно непрерывна» ⇒ $f$ константна.
- Если вы хотите работать с топологией: «$f^{\prime }$ непрерывна и ноль на плотном множестве» ⇒ $f^{\prime }\equiv 0$ ⇒ $f$ константна.
- «Нули имеют непустой внутренний вид (содержат интервал)» ⇒ константность на этом интервале.
- Общая рекомендация: при формулировке теоремы указывать одновременно свойство множества нулей и дополнительную регулярность функции (абсолютная непрерывность / $C^1$ / Lipschitz и т. п.).