Угол между плоскостями равен углу между их нормалями.

Нормаль к плоскости квадрата это нормаль к плоскости ромба, так как они параллельны. Пусть вектор нормали равен N = (a, b, c). Тогда уравнения плоскостей имеют вид:

ax + by + cz = 0 (для квадрата)
ax + by + cz = d (для ромба)

Где коэффициенты a, b, c одинаковы для обеих плоскостей (как раз вектор N), а d - различается.

Так как плоскости содержат одну из вершин квадрата (и ромба), то они проходят через точку (0, 0, 0), поэтому d = 0 для плоскости квадрата.

Таким образом, угол между нормалями плоскостей равен арккосинусу косинуса угла между плоскостями:

cos(угол) = (N1 N2) / (||N1|| ||N2||)

где N1 и N2 - нормали к плоскостям квадрата и ромба соответственно, ||N1|| и ||N2|| - их длины (корень из суммы квадратов коэффициентов a, b, c). Подставив вектор нормали и вычислив косинус угла, можно получить значение угла между плоскостями квадрата и ромба.