Краткая стратегия решения и тонкости.
1) Преобразовать первое уравнение через удвоенный аргумент или сумму в произведение:
$$\sin x+\sin 2x=\sin x(1+2\cos x)=0$$ (или $2\sin \frac{3x}{2}\cos \frac{x}{2}=0$, эквивалентно). Отсюда
$$\sin x=0\text{или}\cos x=-\frac{1}{2}.$$
2) Преобразовать второе уравнение через формулу для $\cos 2x$:
$$\cos x+\cos 2x=\cos x+2{\cos }^{2}x-1=1\Rightarrow 2{\cos }^{2}x+\cos x-2=0.$$ Корни квадратного уравнения:
$$\cos x=\frac{-1\pm \sqrt{17}}{4}\approx 0.7808\text{или}\approx -\mathrm{1.2808.}$$ Второй корень вне отрезка $[-1,1]$, поэтому единственно возможное значение с точки зрения этого уравнения — $\cos x\approx 0.7808$.
3) Пересечение условий. Первое уравнение допускает только $\sin x=0$ (т.е. $x=k\pi$) или $\cos x=-\frac{1}{2}$. Ни одно из этих значений не совпадает с $\cos x\approx 0.7808$, а $\cos x=-\frac{1}{2}$ не удовлетворяет второму уравнению (при $\cos x=-\frac{1}{2}$ получаем $\cos x+\cos 2x=-1\ne 1$), а при $\sin x=0$ $\cos x+\cos 2x$ даёт $2$ или $0$, тоже не $1$. Поэтому совместных решений нет.
Альтернативный быстрый вывод без подробной подстановки: из системы имеем
$$(\sin x+\sin 2x{)}^2+(\cos x+\cos 2x{)}^2=0^2+1^2=1,$$ а левая часть равна $2+2\cos (x-2x)=2+2\cos x$. Получаем $\cos x=-\frac{1}{2}$. Подстановка этого значения в исходную систему даёт противоречие ($\cos x+\cos 2x=-1\ne 1$), следовательно решений нет.
Тонкости и предостережения:
- При факторизации и делении нельзя делить на выражения, которые могут быть нулём — все случаи нулей нужно рассматривать отдельно (мы это сделали: $\sin x=0$ и $\cos x=-\frac{1}{2}$).
- При переходе к алгебраическим уравнениям по $\cos x$ проверяйте, попадают ли корни в $[-1,1]$.
- При возведении в квадрат или использовании норм (как в альтернативном шаге) проверяйте, не вводятся ли дополнительные (возможные) решения; здесь квадратирование давало лишь обязательное условие, которое всё равно противоречиво при проверке.