Для начала приведем уравнение канонического вида для кривой 2-го порядка:

x^2 + y^2 + 2xy - 8x - 8y + 1 = 0

Перепишем данное уравнение в матричной форме:

(X, Y, 1) A (X, Y, 1)^T = 0

Где A = [[1, 1, -4], [1, 1, -4], [-4, -4, 1]]

Теперь для дальнейших преобразований введем новые переменные X' и Y' с помощью матрицы поворота R:

|X| |cos(a) -sin(a) 0| |x|
|Y| = |sin(a) cos(a) 0| |y|
|1| | 0 0 1| |1|

Тогда подставим новые переменные в уравнение кривой:

(X', Y', 1) (R^T) A R (X', Y', 1)^T = 0

После упрощения получим новое уравнение кривой в каноническом виде в переменных X' и Y'.