Обозначим количество книг на первой полке за Х, а на второй за Y.

Тогда по условию задачи:
1) X = 3Y (так как на первой полке было в 3 раза больше книг, чем на второй)
2) X - 8 = Y + 5 - 17 (когда с первой полки сняли 8 книг, а на другую положили 5 книг, то разница стала 17)

Подставим первое равенство во второе:
3Y - 8 = Y + 5 - 17
3Y - 8 = Y - 12
2Y = -4
Y = -2

Теперь найдем Х:
X = 3Y
X = 3*(-2)
X = -6

Итак, на первой полке было -6 книг, что не имеет смысла.

Однако, ошибка в данной задаче заключается в неверно поставленных исходных данных, так как количество книг не может быть отрицательным.