Для начала построим плоскость, проходящую через точку P и параллельную плоскости ABC. Обозначим эту плоскость как PBCP'.

Так как расстояние от точки P до плоскости ABC равно 5√6, то можно предположить, что треугольник PAP' – правильный, а длина его стороны равна 5√6. Поскольку треугольник PAP' правильный, то угол между плоскостями ABC и BCP равен углу между прямой AP и прямой P'P.

Так как AP + P'P = 10√2 (расстояние от точки P до прямой BC), а AP = 5√6, то P'P = 10√2 - 5√6 = 10(√2 - √6).

Теперь найдем косинус угла между прямыми AP и P'P:
cos(угол) = (AP^2 + P'P^2 - PP'^2) / (2 AP P'P) = (5√6)^2 + (10(√2 - √6))^2 - (5√6 - 10(√2 - √6))^2) / (2 5√6 10(√2 - √6)).

Решив эту задачу, найдем cos(угол) и затем угол между плоскостями ABC и BCP:

угол = arccos(cos(угол)).