Я бы проще сделал:
d/dx (x *y(x)-arctan(x/y(x))) =0
y+xy'-(1/y-x*y'/y^2)*(y^2/(x^2+y^2))=0
y+x*y'-(y-x*y')/(x^2+y^2)=0
y'*x*(1+x^2+y^2)=y*(1-x^2-y^2)
y' = d/dx y(x) = y/x*(1-x^2-y^2)/(1+x^2+y^2)
Пошаговое объяснение:
