Коротко: в рассуждении не хватает предположения о знаке функции. Из одного факта ${\int }_a^{b}f(x)dx=0$ при непрерывности $f$ на $[a,b]$ нельзя вывести $f\equiv 0$ без доп. условий.
Недостающие корректные утверждения:
- Если $f$ непрерывна на $[a,b]$ и $f(x)\ge 0$ (или $f(x)\le 0$) для всех $x\in [a,b]$, и ${\int }_a^{b}f(x)dx=0$, то $f(x)\equiv 0$ на $[a,b]$.
Доказательство: если существует $x_0$ с $f(x_0)>0$, то по непрерывности $\exists$ окрестность, где $f(x)\ge c>0$, откуда интеграл положителен — противоречие.
Альтернативное условие:
- Если ${\int }_a^b|f(x)|dx=0$ (Лебег или Риман), то $f(x)=0$ почти везде; при непрерывности это даёт $f\equiv 0$ на $[a,b]$.
Контрпримеры без условия о знаке:
- $f(x)=x$ на $[-1,1]$: ${\int }_{-1}^{1}xdx=0$, но $f\not\equiv 0$.
- $f(x)=\sin x$ на $[0,2\pi ]$: ${\int }_0^{2\pi }\sin xdx=0$, но $f\not\equiv 0$.
Замечание о классах интегралов: для измеримых неотрицательных функций $\int |f|=0$ даёт $f=0$ почти везде; чтобы получить тождественное равенство на всём отрезке, требуется непрерывность.