Пусть диагонали прямоугольника равны d1 и d2. Тогда площадь прямоугольника равна половине произведения длин его диагоналей: S = 1/2 d1 d2.

Из условия задачи S = 9. Подставим это значение в формулу:

9 = 1/2 d1 d2.

Также нам дано, что косинус угла между диагоналями равен √3/2. По свойствам косинуса угла между диагоналями прямоугольника справедливо следующее соотношение: cos(α) = d1/d2, где α - угол между диагоналями. Подставим это значение вместе с известным косинусом угла в формулу:

√3/2 = d1/d2.

Мы получили систему из двух уравнений:

1) 9 = 1/2 d1 d2,
2) √3/2 = d1/d2.

Решим эту систему уравнений.

Из второго уравнения выразим d1 через d2: d1 = (√3/2)d2.

Подставим это выражение в первое уравнение:

9 = 1/2 (√3/2)d2 d2,
9 = (√3/4)d2^2,
d2^2 = 36/√3,
d2 = √(36/√3) = √12.

Теперь найдем диагональ d1:

d1 = (√3/2) * √12 = 3.

Итак, длины диагоналей прямоугольника равны 3 и √12.