Для начала определим мольные отношения элементов:

Массовые доли С:О:Н равны 38,7%:51,6%:9,7%.
Переведём их в мольные доли, разделив на молярную массу каждого элемента:

C: 38,7/12 = 3,225 моль
O: 51,6/16 = 3,225 моль
H: 9,7/1 = 9,7 моль

Теперь составим эмпирическую формулу вещества, разделив мольные доли элементов на наименьшее из них (3,225):

C: 3,225/3,225 = 1
O: 3,225/3,225 = 1
H: 9,7/3,225 = 3

Таким образом, эмпирическая формула вещества CH3O.

Далее найдем мольную массу этой формулы:

М(C) = 12 г/моль
М(H) = 1 г/моль
М(O) = 16 г/моль

Масса молекулы = 121 + 13 + 16 = 12 + 3 + 16 = 31 г/моль

Относительная плотность по водороду равна 31, что соответствует молекуле этанола.

Таким образом, формула вещества – C2H5OH.