Обозначим количество плиток как ( N ).

Условия задачи:

При укладывании плиток в ряд по 10 плиток, их не хватает на квадратную площадку: ( N ) не делится на 10.При укладывании по 8 плиток в ряд остается один неполный ряд: ( N \equiv 1 \mod 8 ).При укладывании по 9 плиток также остается неполный ряд, в котором на 6 плиток меньше, чем в неполном ряду при укладывании по 8 плиток:
Пусть ( r_8 ) - количество плиток в неполном ряду при укладывании по 8 плиток. Тогда ( r_8 = N \mod 8 ) и ( r_8 = 1 ) (так как ( N \equiv 1 \mod 8 )).При укладывании по 9 плиток неполный ряд: ( r_9 = N \mod 9 ).По условию: ( r_9 = r_8 - 6 = 1 - 6 = -5 ), что не может быть верно. Это значит, что недостающие плитки при укладывании по 9 равны количеству плиток, которые остались разница 6. Следовательно ( r_9 = 9 - 6 = 3 ).Таким образом, ( N \equiv 3 \mod 9 ).

Система условий:

( N \equiv 1 \mod 8 )( N \equiv 3 \mod 9 )( N \not\equiv 0 \mod 10 )

Решаем систему:

Начнем с первых двух условий. Для ( N \equiv 3 \mod 9 ), можно записать ( N ) в виде:
[
N = 9k + 3 \quad (k \in \mathbb{Z})
]

Подставим в первое уравнение:
[
9k + 3 \equiv 1 \mod 8
]
Упростим:
[
k + 3 \equiv 1 \mod 8 \implies k \equiv -2 \mod 8 \implies k \equiv 6 \mod 8
]
Раз ( k \equiv 6 \mod 8 ), запишем ( k ):
[
k = 8m + 6 \quad (m \in \mathbb{Z})
]

Подставим значение ( k ):
[
N = 9(8m + 6) + 3 = 72m + 54 + 3 = 72m + 57
]

Таким образом, получаем:
[
N \equiv 57 \mod 72
]

Проверка на остаток:

Теперь нам нужно проверить, какое значение ( N ) менее ( 10 ) будет удовлетворять:( N \not\equiv 0 \mod 10 ) - проверяем ( 57 ):
[
57 \equiv 7 \mod 10 \text{ (не делится на 10)}
]Таким образом, ( N = 57 ) подходит под все условия.

Следовательно, количество плиток, оставшихся после строительства дома, равно ( \boxed{57} ).