a) Начнем с нахождения производной от левой части уравнения:
(dy/dx)*(1/y) = d(arctg(xy))/dx

производная арктангенса: d(arctg(u))/du = 1 / (1 + u^2)
Подставляем xy вместо u и умножаем на производную xy по x в случае справа:
(dy/dx)(1/y) = 1 / (1 + (xy)^2) (x + y*dx/dx)

(dy/dx)(1/y) = (x + y(dy/dx)) / (1 + (xy)^2)

dy/dx = y(x + y(dy/dx)) / (1 + (xy)^2) - упрощенный результат

b) x - 3y + e^y = 5
Будем находить производную от левой части уравнения по x:
d(x - 3y + e^y)/dx = d(5)/dx
1 - 3(dy/dx) + e^y * dy/dx = 0

Переносим все слагаемые с dy/dx в одну часть:
-3(dy/dx) + e^y * dy/dx = -1
dy/dx(-3 + e^y) = -1
dy/dx = -1 / (-3 + e^y) - упрощенный результат