Ответ:

y' = 2xcosx - (x²+1)sinx