Известно, что массовая доля серы составляет 40%, следовательно, массовая доля кислорода составляет 100% - 40% = 60%.

Пусть масса серы в молекуле равна x, а масса кислорода равна y. Тогда x + y = 80 а.е.м.

Из условия мы знаем, что массовая доля серы составляет 40%, то есть x/(x+y) = 0.4.

Решим систему уравнений:
1) x + y = 80
2) x/(x+y) = 0.4

Решая эту систему, получим x = 32 а.е.м и y = 48 а.е.м.

Таким образом, химическая формула соединения будет SO3 (сернистый ангидрид).