Пусть куплено $n$ булочек. Сдача равна $100-17n$ и должна делиться на 5, т.е. $100-17n\equiv 0(\mathrm{mod}5)$. Так как $100\equiv 0$ и $17\equiv 2(\mathrm{mod}5)$, получаем $2n\equiv 0(\mathrm{mod}5)\Rightarrow n\equiv 0(\mathrm{mod}5)$.
При этом $1\le n\le \lfloor 100/17\rfloor =5$, следовательно единственное допустимое $n=5$. Тогда сдача $100-17\cdot 5=15$ рублей, число пятирублёвых монет равно $\frac{15}{5}=3$.
Ответ: 3.