Коротко и по делу.
Пусть поверхности заданы уравнениями $S_1:F(x,y,z)=0$ и $S_2:G(x,y,z)=0$. Кривая пересечения $C=S_1\cap S_2$ проходит через точку $P$. Пусть задана плоскость $\pi$ с единичным нормальным вектором $n$ (и предполагаем, что $P\in \pi$, иначе касательная в $P$ не может лежать в $\pi$).
1) Регулярный случай (нормали неколлинеарны).
Если $\nabla F(P)\ne 0,\nabla G(P)\ne 0$ и $\nabla F(P)\nparallel \nabla G(P)$, то касательная к $C$ в $P$ задаётся направлением
$$v=\nabla F(P)\times \nabla G(P).$$ Касательная лежит в плоскости $\pi$ тогда и только тогда
$$v\cdot n=0,$$ то есть
$$(\nabla F(P)\times \nabla G(P))\cdot n=0.$$ Эквивалентное геометрическое утверждение: касательная к кривой в $P$ является линией пересечения касательных плоскостей $T_P{S}_1$ и $T_P{S}_2$; требование выше означает, что плоскость $\pi$ содержит эту линию пересечения (или, иначе, нормали $\nabla F(P),\nabla G(P),n$ лежат в одной плоскости).
2) Вырожденный случай (нормали коллинеарны).
Если $\nabla F(P)\parallel \nabla G(P)$ (поверхности касаются), то касательные плоскости совпадают. Тогда касательная к возможной кривой пересечения лежит в этой общей касательной плоскости. Для того чтобы у этой касательной была направление, лежащее в $\pi$, необходимо и достаточно существование ненулевого вектора $v$ с
$$v\cdot \nabla F(P)=0,v\cdot n=0,$$ то есть эквивалентно $\nabla F(P)\times n\ne 0$ (тогда $v\propto \nabla F(P)\times n$). Если же $\nabla F(P)\parallel n$, то ненулевого вектора, ортогонального одновременно и $\nabla F(P)$, и $n$, не существует, и касательная (если она существует) не может лежать в $\pi$.
3) Замечания о регулярности.
Если один из градиентов нулевой или точка сингулярна (т. е. нет регулярной касательной), необходим специальный анализ; выше приведены стандартные регулярные условия.
Итого: основная аналитическая проверка — вычислить $(\nabla F\times \nabla G)\cdot n$. Равенство нулю даёт условие (в регулярной точке) того, что касательная к кривой пересечения лежит в заданной плоскости; это эквивалентно тому, что плоскость $\pi$ содержит линию пересечения касательных плоскостей поверхностей.