Пусть x - количество зелёных шаров, y - количество синих шаров. Тогда по условию задачи:

x + y = 40 $общееколичествошаров$ 3x = 2y $изкаждыхпятишаровтризелёногоцвета$ 3x = 2$40-x$ 3x = 80-2x
5x = 80
x = 16

Таким образом, в ящике было 16 зелёных шаров и 24 синих шаров.