Для решения задачи воспользуемся вторым законом Ньютона:
ΣF = ma,

где ΣF - сила трения, м - масса шара, a - ускорение шара.

Ускорение шара по наклонной плоскости можно найти из горизонтальной (Fтр) и вертикальной (N) составляющих силы тяжести:
Fтр = μN,
N = mgcos(30°),
Fтр = μmgcos(30°).

По условию движение без скольжения, значит:
Fтр = ma = mgsin(30°),
μmgcos(30°) = mgsin(30°),
μcos(30°) = sin(30°),
μ = tan(30°).

Таким образом, сила трения шара о плоскость равна:
μmgcos(30°) = (tan(30°)) 5 кг 9.8 Н * 0.866 ≈ 6.62 Н.