Для начала найдем длину отрезка bb1. Так как ab = 5, то по теореме Пифагора получаем ac = 4. Теперь можно найти длину отрезка bb1 как проекцию b1c на osd (систему координат).
Итак, xc1 = √5 - √3
Теперь найдем косинус угла между прямой c1b и плоскостью abb1 с помощью скалярного произведения векторов.
Для этого вначале найдем вектора a1c1 и b1b.
a1c1 = <0; √5; -√3>
b1b = <0; xc1; -√3>
Теперь найдем косинус угла между этими векторами:
cos(α) = (a1c1 b1b) / (|a1c1| |b1b|)
cos(α) = (√5 xc1 + 3) / (5 (xc1^2 + 3))
Подставляем xc1 и находим cos(α). Полученный угол α - искомый угол между прямой c1b и плоскостью abb1.