Используем законы сохранения импульса и энергии:

Импульс первого тела до взаимодействия равен импульсу после взаимодействия:
m1v1 = m1'v1' + m2*v2'

5 3 = 5 v1' + 4 v2'
15 = 5 v1' + 4 * v2'

Запишем закон сохранения энергии:
m1 v1^2 = m1' v1'^2 + m2 * v2'^2

5 3^2 = 5 v1'^2 + 4 v2'^2
45 = 5 v1'^2 + 4 * v2'^2

Решим эту систему уравнений:

15 = 5 v1' + 4 v2'
45 = 5 v1'^2 + 4 v2'^2

Подставляем первое уравнение во второе:

45 = 5 (15 - 4 v2') + 4 v2'^2
45 = 75 - 20 v2' + 4 v2'^2
4 v2'^2 - 20 * v2' + 30 = 0

Дискриминант D = b^2 - 4ac
D = (-20)^2 - 4 4 30
D = 400 - 480
D = -80

Так как дискриминант отрицательный, то действительных корней нет, а это значит, что скорость второго тела и сила, с которой это тело действует на первое, не могут быть определены в данной ситуации.