Возьмём полярные координаты $x=r\cos \theta ,y=r\sin \theta$. Тогда
$$f(x,y)=\frac{x^2-y^2}{x^2+y^2}=\frac{r^2({\cos }^2\theta -{\sin }^2\theta )}{r^2({\cos }^2\theta +{\sin }^2\theta )}=\cos 2\theta .$$ Отсюда видно, что при $r\to 0$ значение $f(x,y)$ не зависит от $r$, а только от направления $\theta$. Следовательно предела при $(x,y)\to (0,0)$ не существует, потому что значения вдоль разных направлений различны. Примеры:
- по оси $y=0$ ($\theta =0$): $f=1$;
- по оси $x=0$ ($\theta =\pi /2$): $f=-1$;
- по прямой $y=mx$ ($\theta =\arctan m$): $f=\frac{1-m^2}{1+m^2}$.
Критерий отсутствия предела: если существуют две направляющие (луча) с углами ${\theta }_1,{\theta }_2$ такими, что $\cos 2{\theta }_1\ne \cos 2{\theta }_2$, то предел в нуле не существует. (Эквивалентно: найдутся две последовательности $(x_n,y_n)\to (0,0)$ с разных направлений, для которых $f(x_n,y_n)$ имеют разные пределы.)
Геометрическая интерпретация: функция $f$ зависит только от угла $\theta$, поэтому она постоянна на каждой прямой, проходящей через начало координат (значения на противоположных лучах совпадают, так как $\cos 2(\theta +\pi )=\cos 2\theta$). Уровневые множества (с фиксированным значением) — это пары противоположных лучей; поэтому при подходе к началу по разным лучам получаем разные постоянные значения, и единого предела нет. Диапазон значений функции: $f\in [-1,1]$, и для любого $L\in [-1,1]$ найдётся направление с $f=L$ (например $\theta =\frac{1}{2}\arccos L$).