Для нахождения производной произведения двух функций используем формулу:
$$ (u \cdot v)' = u' \cdot v + u \cdot v' $$, где $$u = x^2$$, $$v = \cos(x)$$
$$u' = (x^2)' = 2x$$
$$v' = (\cos(x))' = -\sin(x)$$
$$y' = (x^2)' \cdot \cos(x) + x^2 \cdot (\cos(x))' = 2x \cdot \cos(x) + x^2 \cdot (-\sin(x)) = 2x\cos(x) - x^2\sin(x)$$
Ответ: $$y' = 2x\cos(x) - x^2\sin(x)$$