a) Найдем производную функции f(x):

f(x)=(x-2)^2/(x+1)
f'(x) = ((x+1)*2(x-2)-(x-2)^2)/(x+1)^2
f'(x) = (2x^2-4x+2 - x^2 + 4x - 4)/(x+1)^2
f'(x) = (x^2 + 2)/(x+1)^2

Теперь определим монотонность функции:

f'(x) > 0:
x^2 + 2 > 0
x^2 > -2 (всегда верно)

f'(x) < 0:
x^2 +2 < 0
x^2 < -2 (неверно)

Таким образом, функция возрастает на всей области определения.

Находим экстремумы функции:

f''(x) = 2/(x+1)^3

Так как вторая производная не меняет знак на всей области определения, можно сделать вывод, что точек экстремума у данной функции нет.

b) Найдем производную функции f(x):

f(x)=x^2sqrt(1-x^2)
f'(x) = 2xsqrt(1-x^2) - x^3/sqrt(1-x^2)
f'(x) = x(2sqrt(1-x^2) - x^2/(sqrt(1-x^2)))

Теперь определим монотонность функции:

f'(x) > 0:
x(2sqrt(1-x^2) - x^2/(sqrt(1-x^2))) > 0
x(2-2x^2) > 0
2-2x^2 > 0
x^2 < 1/2

f'(x) < 0:
x^2 > 1/2

Таким образом, функция монотонна на промежутках (-∞, -√(1/2)) и (√(1/2), ∞).

Находим экстремумы функции:

f''(x) = 2*sqrt(1-x^2) - x^2/sqrt(1-x^2) - 3x^2

Полученный результат можно упростить, таким образом убедиться что экстремумов у функции нет.

c) Найдем производную функции f(x):

f(x)=sin^2x - cosx
f'(x) = 2sinxcosx + sinx
f'(x) = sinx(2cosx + 1)

Теперь определим монотонность функции:

f'(x) > 0:
sinx(2cosx + 1) > 0
sinx > 0 (всегда верно)

f'(x) < 0:
sinx < 0 (неверно)

Таким образом, функция возрастает на всей области определения.

Находим экстремумы функции:

f''(x) = 2cosx + 1

2cosx + 1 = 0
cosx = -1/2

Из условия видим, что у функции присутствует точка экстремума, а именно пик.