Для нахождения наибольшего и наименьшего значений функции на отрезке [3;12] нужно сначала найти критические точки функции в данном интервале.

Найдем производную функции Y=x^3-2,5x^2-50x-2:
Y' = 3x^2 - 5x - 50

Найдем точки экстремума, приравнивая производную к нулю и решая уравнение:
3x^2 - 5x - 50 = 0
Таким образом, x1 = -5 и x2 = 10

Проверим значения функции в найденных критических точках и на концах отрезка [3;12]:
Y(-5) = (-5)^3 - 2,5(-5)^2 - 50(-5) - 2 = -347,5
Y(3) = 3^3 - 2,53^2 - 503 - 2 = -56
Y(10) = 10^3 - 2,510^2 - 5010 - 2 = -252

Таким образом, наибольшее значение функции на отрезке [3;12] равно -56 и достигается в точке x = 3.
Наименьшее значение функции на отрезке [3;12] равно -347,5 и достигается в точке x = -5.