Ключевое объяснение — разная молярная масса молекул разных газов. По закону Авогадро при одинаковых $T$ и $p$ в равных объёмах содержится одинаковое число молей, но масса этого числа молей равна молярной массе, поэтому плотность зависит от неё.
Через уравнение состояния идеального газа:
$$pV=nRT\Rightarrow \rho =\frac{m}{V}=\frac{nM}{V}=M\frac{p}{RT},$$ то есть при одних и тех же $p,T$ $\rho \propto M$.
Для реальных газов добавляется поправка с фактором сжимаемости $Z$:
$$\rho =\frac{Mp}{ZRT},$$ так что отклонения от идеальности (высокое давление, низкая температура) тоже влияют на плотность.