Eu discordo do gabarito que é item E.

É uma EDO exata de valor inicial, o que significa solução única.

A EDO será do tipo: Mdx + Ndy = 0, onde M= x²-2xy e N= 3y -x²

A solução é do tipo : f(x,y)=C ( constante)

Tal que df/dx=M e df/dy = N.

Integrar M em relação a x, que resulta em f(x,y)= x³/3 -x²y+ g(y)

Agora derivar M em relação a y, que resulta em -x²+g'(y) e essa expressão é igual N.

-x²+g'(y)=3y -x², logo g'(y) = 3y, integrando a igualdade.

g(y)= 3/2 y²

Agora substitui g(y) em f(x,y) que resulta:

f(x,y) = x³/3 -x²y+ 3/2y²

A solução é f(x,y) = C, então

x³/3 -x²y+ 3/2y²=C

y(1)=0, então substituindo em x³/3 -x²y+ 3/2y², encontra-se 1/3

portanto a solução será:

x³/3 -x²y+ 3/2y²=1/3, melhorando, chegamos a solução do item A.

Se não for isso estou errado kkkkk.

Se alguém chegou em outra solução me ajudem a entender.

Você está certo, o gabarito é A mesmo! E o incrível é que eles não corrigem os erros.