Пусть точка M находится на расстоянии h от плоскости квадрата.

Так как расстояние от точки M до всех вершин квадрата равно 5 см, то равны расстояния от точки M до середин сторон квадрата. Пусть одна из сторон квадрата равна а, тогда диагональ квадрата равна √2a. Так как диагональ квадрата равна 6 см, получаем √2a = 6 см => a = 6 / √2 см.

Тогда полудлина стороны квадрата будет равна a / 2 = (6 / √2) / 2 = 3 / √2 см.

Таким образом, повернем две такие стороны квадрата на 45 градусов вокруг прямой, проходящей через центр квадрата и точку M, получим правильный восьмиугольник. Расстояние от точки M до центра квадрата равно полудлине стороны квадрата, то есть 3 / √2 см. Расстояние от точки M до плоскости квадрата равно расстоянию от точки M до центра восьмиугольника, умноженному на sin 22,5 градусов (половина угла восьмиугольника).

sin 22,5° = √(1 - cos^2(22,5°)) = √(1 - (cos(45°)/√2)^2) = √(1 - (1/√2)^2) = √(1 - 1/2) = √(1/2) = √2/2.

Таким образом, расстояние от точки M до плоскости квадрата равно (3 / √2) * (√2/2) = 3 / 2 см.