Для начала найдем длину отрезка AM. Так как треугольник ABC образован пересечением прямых с плоскостью, то угол ABC прямой. Тогда угол OBC и OBA также прямые.

Далее, обозначим точку M' как точку на отрезке AC, удаленную от точки A на 3см. Тогда треугольник BOM' будет равнобедренным, так как BM'=BM=3см и углы BOM' и BMO будут равны.

Из равнобедренности треугольника BOM' следует, что угол OBM' = угол MBM' = углу M'BO. Так как угол OBM' = 90 градусов (так как OBC прямой), то и угол M'BO = 90 градусов.

Таким образом, по теореме Пифагора в прямоугольном треугольнике OBM' найдем AB:
AB = √(OB^2 - BM'^2) = √(10^2 - 3^2) = √(100 - 9) = √91 см.

Теперь, так как треугольник ABC -- искомый, то BM тоже является высотой треугольника. Поэтому площадь треугольника ABC можно найти по формуле:
S = (1/2)BMAB = (1/2)3√91 = 3√91/2 см^2.

Также, площадь S можно найти через длины сторон треугольника ABC по формуле Герона:
S = √(p(p-AC)(p-AB)*(p-BC)),
где p = (AC + AB + BC)/2.
AC + AB + BC = 10 + √91 + 8 = √91 + 18. p = (√91 + 18)/2.

Теперь составим уравнение через площадь треугольника ABC:
√(91 + 18) = √((√91 + 18)/2)((√91 + 18)/2 - 10)((√91 + 18)/2 - √91)*((√91 + 18)/2 - 8).

Упростим это уравнение и найдем длину отрезка OM.