Для нахождения наибольшего и наименьшего значений функции Z в области D, необходимо исследовать значение функции на краях этой области.

Область D задана следующим образом:
1) x = 5
2) y = 0
3) x - y - 1 = 0

Из уравнения x - y - 1 = 0 следует, что y = x - 1. Подставляя это в уравнение функции Z, получаем:

Z = 3x^2 + 3(x - 1)^2 - x - (x - 1) + 1
Z = 3x^2 + 3(x^2 - 2x + 1) - x - x + 1 + 1
Z = 3x^2 + 3x^2 - 6x + 3 - x - x + 2

Z = 6x^2 - 8x + 5

Теперь найдем наибольшее и наименьшее значение функции Z с учетом ограничений на x:

1) Для x = 5:

Z(5) = 65^2 - 85 + 5
Z(5) = 6*25 - 40 + 5
Z(5) = 150 - 40 + 5
Z(5) = 110

2) Для x = 1:

Z(1) = 61^2 - 81 + 5
Z(1) = 6*1 - 8 + 5
Z(1) = 6 - 8 + 5
Z(1) = 3

Следовательно, наибольшее значение функции Z в области D равно 110, а наименьшее значение равно 3.