Для доказательства неравенства $\cos A\cos B\cos C\le \frac{1}{8}$ для остроугольного треугольника $ABC$, воспользуемся следующим подходом.

Разложение углов. Поскольку треугольник остроугольный, то все углы $A,B,C$ меньше $\frac{\pi }{2}$ $или(90^{\circ })$. Следовательно, косинусы этих углов положительны.

Заметим, что:
$$\cos A=\sin (B+C).$$ Используя формулу для синуса суммы, мы можем выразить $\cos A$ как:
$$\cos A=\sin (B+C)=\sin \left(\frac{\pi }{2}-A\right)=\cos \left(\frac{\pi }{2}-B-C\right)=\cos (B+C).$$

Неравенство для произведения косинусов. Для удобства выразим углы в радианах и заметим, что максимальное значение косинуса достигается, когда углы равны:
$$A=B=C=\frac{\pi }{3}(\text{для равностороннего треугольника}).$$ Тогда
$$\cos A=\cos B=\cos C=\cos \left(\frac{\pi }{3}\right)=\frac{1}{2}.$$

Вычисляем произведение:
$$\cos A\cos B\cos C={\left(\frac{1}{2}\right)}^3=\frac{1}{8}.$$

Доказательство предельного случая. Теперь, чтобы показать, что $\cos A\cos B\cos C\le \frac{1}{8}$ для всех остроугольных треугольников, используем неравенство для производной функции, так как функция $f(x)=\cos x$ является выпуклой на интервале $(0,\frac{\pi }{2})$.

Очевидно, что функция $\cos$ убывает на данном интервале, и при уменьшении углов с их суммой, значения $\cos A,\cos B,\cos C$ будут меньше $\frac{1}{2}$. Таким образом, их произведение всегда будет меньше или равно $\frac{1}{8}$.

В итоге, мы получаем:
$$\cos A\cos B\cos C\le \frac{1}{8}$$ в всем остроугольном треугольнике $ABC$.

Таким образом, неравенство доказано.