Пусть всего осталось х плиток.

Тогда:
1) Плиток не хватает для квадратной площадки, если укладывать их по 10 - это значит, что х не делится на 10. Запишем это как х = 10k + p, где k - целое число, а p - остаток от деления х на 10.
2) При укладывании по 6 плиток в ряд остается один неполный ряд, значит х = 6m + 1.
3) При укладывании по 5 плиток в ряд остается неполный ряд, в котором на 4 плитки меньше, чем в неполном ряду при укладывании по 6. Это означает, что п - 4 = m.

Подставим из второго уравнения выражение для х в первое уравнение:
6m + 1 = 10k + p

Подставим выражение для p из третьего уравнения:
6m + 1 = 10k + 6m + 1 - 4

Упростим:
6m = 10k
3m = 5k

Таким образом, m и k должны быть кратны 5 и 3 соответственно. Попробуем различные значения m и k, удовлетворяющие этому условию:

m = 5, k = 3
m = 10, k = 6
и т.д.

Таким образом, можно найти все целочисленные значения х, удовлетворяющие условию. После этого суммируем все найденные значения х, чтобы найти общее количество оставшихся плиток.