Пусть в первом ящике лежит х кг орехов, во втором - у кг, в третьем - z кг.

Тогда система уравнений будет иметь вид:
x = (у + z) - 6
у = (x + z) - 10

Подставляем первое уравнение во второе:
(x + z - 6) = ((x + z) - 10) - 10
x + z - 6 = x + z - 20
-6 = -20

Уравнение не имеет смысла, следовательно, ошибка в постановке задачи.