Для исследования функции на возрастание и убывание на заданном промежутке, сначала найдем производную данной функции:

f(x) = cos^2(x) - 2cos(x)

f'(x) = -2sin(x)cos(x) + 2sin(x) = 2sin(x)(1-cos(x))

Теперь найдем точки экстремума функции:

2sin(x)(1-cos(x)) = 0

sin(x) = 0 или cos(x) = 1

Таким образом, точки экстремума на данном промежутке:

x = -π/3, 0, π

Теперь посмотрим на знак производной в каждом интервале:

x < -π/3: sin(x) < 0, cos(x) > 0, следовательно, производная f'(x) < 0, функция убывает-π/3 < x < 0: sin(x) > 0, cos(x) > 0, следовательно, производная f'(x) > 0, функция возрастает0 < x < π: sin(x) > 0, cos(x) < 1, следовательно, производная f'(x) < 0, функция убываетx > π: sin(x) > 0, cos(x) > 0, следовательно, производная f'(x) > 0, функция возрастает

Итак, функция f(x) = cos^2(x) - 2cos(x) возрастает на интервалах (-π/3; 0) и (π; +∞), убывает на интервалах (-∞; -π/3) и (0; π).