Для того чтобы найти коэффициент при x^12 в выражении (x^7+x^5+1)^20, нужно раскрыть скобки с помощью бинома Ньютона.

Используя бином Ньютона, общий член разложения будет иметь вид:
C(20,k)(x^7)^(20-k)(x^5)^k

где C(20,k) - число сочетаний, равное 20!/(k!(20-k)!).

Для того чтобы найти коэффициент при x^12, нужно найти такие k, что:
(20-k)7 + 5k = 12
или
140 - 7k + 5k = 12
или
140 - 2k = 12
или
2k = 128
или
k = 64

Подставляем найденное значение k обратно в общий член разложения:
C(20,64)(x^7)^(20-64)(x^5)^64
C(20,64)(x^7)^(-44)(x^5)^64
C(44,64)x^(564)
C(44,64)*x^320

Поскольку 44 < 64, то общее выражение не содержит членов x^12, а следовательно, коэффициент при x^12 равен 0.