а) Найдем производную функции f(x) = (x-1)^2(x+2):

f'(x) = 2(x-1)(x+2) + (x-1)^2 = 2x^2 + 2x - 4 + x^2 - 2x + 1 = 3x^2

Производная f'(x) всегда положительна для всех x, значит функция f(x) монотонно возрастает на всей области определения.

Для поиска экстремумов можно найти вторую производную:

f''(x) = 6x

f''(x) > 0 для всех x, следовательно, функция f(x) не имеет экстремумов.

б) Найдем производную функции f(x) = 4√x - x:

f'(x) = 4(1/2)x^(-1/2) - 1 = 2/x^(1/2) - 1 = 2/√x - 1

Для исследования на монотонность необходимо найти значения x, при которых производная равна нулю:

2/√x - 1 = 0
2/√x = 1
2 = √x
4 = x

Производная равна нулю при x = 4.

Проверим знаки производной в окрестностях x = 4:

При x < 4: 2/√x - 1 < 0 => функция убывает на интервале (0,4)

При x > 4: 2/√x - 1 > 0 => функция возрастает на интервале (4, ∞)

Следовательно, функция f(x) = 4√x - x убывает на интервале (0,4) и возрастает на интервале (4, ∞).

Для поиска экстремумов используем вторую производную:

f''(x) = -2/x^(3/2)

f''(4) = -2/8 < 0

Следовательно, в точке x = 4 функция имеет локальный максимум.