Обозначим: $$m_1 = 0.4 \text{ кг}$$ – масса первого шара, $$m_2 = 0.2 \text{ кг}$$ – масса второго шара, $$v_1 = 5 \text{ м/с}$$ – начальная скорость первого шара, $$\alpha = 30^\circ$$ – угол отклонения первого шара после столкновения.
Запишем законы сохранения импульса и энергии в проекциях на оси координат:
$$\begin{cases} m_1 v_1 = m_1 v_1' \cos{\alpha} + m_2 v_2' \cos{\beta} \\ 0 = m_1 v_1' \sin{\alpha} - m_2 v_2' \sin{\beta} \\ \frac{m_1 v_1^2}{2} = \frac{m_1 (v_1')^2}{2} + \frac{m_2 (v_2')^2}{2} \end{cases}$$.
Из второго уравнения выразим $$v_2' \sin{\beta} = \frac{m_1 v_1' \sin{\alpha}}{m_2}$$.
Подставим в первое уравнение: $$m_1 v_1 = m_1 v_1' \cos{\alpha} + m_2 v_2' \sqrt{1 - \cos^2{\beta}}$$.
Возведем в квадрат обе части уравнения:
$$m_1^2 v_1^2 = m_1^2 (v_1')^2 \cos^2{\alpha} + 2 m_1 m_2 v_1' \cos{\alpha} v_2' \cos{\beta} + m_2^2 (v_2')^2 \cos^2{\beta}$$.
Из закона сохранения энергии выразим: $$v_2' = \sqrt{\frac{m_1}{m_2}(v_1^2 - (v_1')^2)}$$.
Подставим в уравнение закона сохранения импульса.
$$m_1^2 v_1^2 = m_1^2 (v_1')^2 \cos^2{\alpha} + 2 m_1 m_2 v_1' \cos{\alpha} \sqrt{\frac{m_1}{m_2}(v_1^2 - (v_1')^2)} \cos{\beta} + m_2^2 \frac{m_1}{m_2}(v_1^2 - (v_1')^2) \cos^2{\beta}$$.
Решая уравнение относительно $$v_1'$$, получим:
$$v_1' = 4.33 \text{ м/с}$$.
Скорость второго шара:
$$v_2' = \sqrt{\frac{m_1}{m_2}(v_1^2 - (v_1')^2)} = 4.33 \text{ м/с}$$.
Ответ: 4.33 м/с, 7.5 м/с