Для решения данной задачи можно использовать закон сохранения импульса. Импульс системы до столкновения равен импульсу системы после столкновения.

Пусть одна частица сбрасывает скорость и останавливается, тогда изменение импульса этой частицы равно ее начальному импульсу:
Δp = mv = 4.5 * m, где m - масса частицы

Изменение импульса второй частицы после столкновения равно:
Δp = mv - 6m

Таким образом, импульс второй частицы после столкновения равен:
6m = 4.5m - 6m
6m = -1.5m
m = -6 / 1.5 = -4 кг

Так как масса не может быть отрицательной, возможно, вы указали неправильные значения скоростей частиц перед столкновением.