Площадь прямоугольного треугольника равна половине произведения катетов, т.е. (S = \frac{1}{2} \cdot AC \cdot BC), где AC и BC - катеты треугольника.

Так как площадь треугольника равна 50, а длина катета BC равна 8, получаем уравнение: (50 = \frac{1}{2} \cdot AC \cdot 8), откуда (AC = \frac{50}{4} = 12,5).

Теперь можем найти гипотенузу треугольника по теореме Пифагора: (AB = \sqrt{AC^2 + BC^2} = \sqrt{12,5^2 + 8^2} = \sqrt{156,25 + 64} = \sqrt{220,25} = 14,85).

Теперь можем найти косинус острого угла по формуле: (\cos(\angle C) = \frac{BC}{AB} = \frac{8}{14,85} \approx 0,5375).

Итак, косинус острого угла треугольника АВС равен примерно 0,5375.