Общий алгоритм проверки корней (особенно при операциях, не сохраняющих эквивалентность, напр. возведение в квадрат):
1) Определить область допустимых значений (ОДЗ) исходной системы — ограничения на переменные (подкоренные выражения ≥0, знаменатели ≠0 и т.д.).
2) Решить систему формально, допустимо выполняя операции, которые могут вводить лишние корни (возведение в квадрат, умножение на выражение, которое может быть нулём и т.п.). Получить набор кандидат-решений.
3) Для каждого кандидата подставить значения в исходную (непреобразованную) систему и проверить выполнение всех уравнений и условий ОДЗ.
4) Отбросить те кандидаты, которые не удовлетворяют исходной системе или ОДЗ.
5) (Опционально) Если были выполнены неоднократные «необратимые» операции (несколько квадратов и т.п.), при выводе решения указать, какие кандидаты были отброшены и почему.
Примечание: операции, сохраняющие эквивалентность (сложение/вычитание, умножение на ненулевую константу и т.п.) — безопасны; возведение в квадрат, умножение на выражение с неизвестным знаком, взятие обратного и т.п. — могут ввести посторонние корни.
Пример, где пропуск проверки даёт неверный вывод:
Рассмотрим систему
$$\{\begin{array}{l}x-y=1,\\ \sqrt{x+y}=y.\end{array}$$ Из первого уравнения $y=x-1$. Подставим во второе:
$$\sqrt{2x-1}=x-1.$$ Возведём в квадрат (операция может ввести лишние корни):
$$2x-1=x^2-2x+1\Rightarrow x^2-4x+2=0.$$ Корни этого квадратного уравнения
$$x=2\pm \sqrt{2}.$$ Кандидаты: $x_1=2+\sqrt{2},y_1=1+\sqrt{2}$ и $x_2=2-\sqrt{2},y_2=1-\sqrt{2}$.
Проверка подстановкой в исходную систему:
- Для $x_1,y_1$: $\sqrt{x_1+y_1}=\sqrt{3+2\sqrt{2}}=1+\sqrt{2}=y_1$ — подходит.
- Для $x_2,y_2$: $y_2=1-\sqrt{2}<0$, тогда правая часть второго уравнения отрицательна, а левая $\sqrt{x_2+y_2}$ неотрицательна, поэтому равенство нарушается — кандидат отвратить.
Итог: формальное решение квадратного уравнения дало два корня, но после проверки в исходной системе лишь один удовлетворяет её. Если проверки не сделать, можно ошибочно принять оба решения.