a)
Изначальное уравнение: x(x+2y)dx + (x^2 + y^2)dy = 0

Для начала преобразуем уравнение, поделив обе части на x^2:
(x+2y)/x dx + (1 + (y/x)^2)dy = 0

Далее введем новую переменную z = y/x:
dx/x + dz = -1/(1+z^2)dz
ln|x| - arctan(z) = C
ln|x| - arctan(y/x) = C

Так как это уравнение имеет вид ln|x| - arctan(y/x)=C, его можно записать в виде x^3 + 3x^2*y - y^2 = C.

б)
Изначальное уравнение: (x^2 + xy) y' = x * sqrt(x^2 - y^2) + xy + y^2

Преобразуем уравнение, поделив обе части на x^2:
y'/y + (z/x) = z/sqrt(1-z^2) + z + 1
dy/y + dz = sqrt(1 - z^2)dx/x + dx
ln|y| + arcsin(z) = ln|x| + x
ln|y| + arcsin(y/x) = ln|x| + x + С
arcsin(y/x) - (sqrt(x^2 - y^2) / x) - ln(x) = C