Для нахождения экстремума функции Z=x²+y²-3xy-x-y необходимо найти частные производные функции по переменным x и y, приравнять их к нулю и решить полученные уравнения.

Частная производная по x:
∂Z/∂x = 2x - 3y - 1

Частная производная по y:
∂Z/∂y = 2y - 3x - 1

Теперь приравняем их к нулю и решим систему уравнений:
2x - 3y - 1 = 0
2y - 3x - 1 = 0

Решив данную систему уравнений, получим:
x = 1
y = 1

Подставим найденные значения переменных x и y обратно в функцию Z=x²+y²-3xy-x-y:
Z = 1² + 1² - 311 - 1 - 1 = 1 + 1 - 3 - 1 - 1 = -3

Таким образом, экстремум функции Z=x²+y²-3xy-x-y равен -3 и достигается при x=1, y=1.