Обозначим количество книг на каждой полке:

Пусть на первой полке книг - Х
Тогда на второй полке книг - X/2
И на третьей полке книг - $X/2$ - 2

У нас по условию задачи сумма всех книг равна 10+5+3 = 18

Теперь у нас есть уравнение:

Х + X/2 + $X/2-2$ = 18

Решим его:

Умножим все члены уравнения на 2, чтобы избавиться от дробей:

2X + X + X - 4 = 36
4X - 4 = 36
4X = 40
X = 10

На первой полке 10 книг
На второй полке 5 книг
На третьей полке 3 книг

Итак, на первой полке 10 книг, на второй 5 книг, на третьей 3 книги.