Краткая корректная процедура (все формулы — в KaTeX).
1) Проверить вырожденность:
- Если $a=0$:
- если $b\ne 0$, решение линейного уравнения $bx+c=0$ и корень $x=-\frac{c}{b}$.
- если $b=0$: либо бесконечно много решений при $c=0$, либо решений нет при $c\ne 0$.
После этого прекращаем.
2) Вычислить дискриминант:
- $D=b^2-4ac$.
3) Рассмотреть три основных случая:
- $D>0$: два различных действительных корня
$x_{1,2}=\frac{-b\pm \sqrt{D}}{2a}.$ - $D=0$: один (двойной) действительный корень
$x=-\frac{b}{2a}.$ - $D<0$: два комплексно-сопряжённых корня
$x_{1,2}=\frac{-b\pm i\sqrt{|D|}}{2a}.$
(Замечание: знак $a$ не меняет формулы; стандартная формула верна и при $a<0$. Ошибка студента — не в знаке $a$, а в предположении, что всегда $D>0$.)
4) Численная устойчивость (рекомендация при потере значащих цифр, когда $|b|$ велико и $D$ мал):
- Пусть $\mathrm{sgn}(b)=1$ при $b\ge 0$, иначе $-1$.
Введите $q=-\frac{1}{2}(b+\mathrm{sgn}(b)\sqrt{D}).$
Тогда устойчивые корни вычисляются как
$x_1=\frac{q}{a},x_2=\frac{c}{q}.$ - Эта схема избегает вычитания близких величин; при $D<0$ используется комплексная арифметика аналогично.
5) Проверка найденных корней:
- Подставить каждый корень $x$ в многочлен и убедиться, что $|a{x}^2+bx+c|$ мало (с учётом допустимой погрешности).
- Дополнительная проверка по Виету: если корни $x_1,x_2$, то должно выполняться
$x_1+x_2=-\frac{b}{a},x_1{x}_2=\frac{c}{a}.$ - Для численных методов сравнивать относительную или абсолютную погрешность (в зависимости от масштаба).
Итог: не отбрасывайте заранее возможность $D\le 0$ и не полагайтесь на знак $a$. Всегда вычисляйте $D$, разбирайте соответствующие случаи и проверяйте корни подстановкой и по формулам Виета; при необходимости используйте устойчивую форму вычисления корней.