Для начала преобразуем данное уравнение:

sin^2x = (cosx - sinx)^2
sin^2x = cos^2x - 2sinxcosx + sin^2x
sin^2x = 1 - sin2x - 2sinxcosx + sin^2x
2sinxcosx = 1

Теперь найдем значения угла х, для которых это уравнение выполнено:

sin2x = 2sinxcosx
2sinxcosx = 1
sin2x = 1
2x = π/2 + 2πk, k - целое число
x = π/4 + πk, k - целое число

Таким образом, корни уравнения sin2x = (cosx - sinx)² находятся при значениях x = π/4 + πk, где k - целое число. На отрезке [0;5π] будут находиться 20 корней, так как 5π/(π/4) = 20.