Пусть количество коробок с тремя игрушками равно y, а количество коробок с x игрушками равно z. Тогда уравнение будет выглядеть так:

3y + xz = 109 $1$ y + z = 20 $2$

Умножим уравнение $2$ на 3 и вычтем из него уравнение $1$:

3z - xz = 60 - 109
z$3-x$ = -49
z = -49 / $3-x$

Так как у нас количество коробок не может быть отрицательным, то x должно быть меньше 3. Также, так как сумма коробок равна 20, то z должно быть целым числом. Подойдут только такие значения x, что $-49$ делится на $3-x$, то есть x = 1, 2.

Проверим оба варианта:

1) x = 1:
z = -49 / $3-1$ = -49 / 2 $нецелоечисло$

2) x = 2:
z = -49 / $3-2$ = -49 / 1 = -49 $неположительноечисло$

Таким образом, уравнение не имеет целочисленных решений.