Общее количество шаров в ящике: \( 5 + 3 = 8 \).
Найдём общее количество способов выбрать 3 шара из 8. Это число сочетаний \( C_n^k = \frac{n!}{k!(n-k)!} \).
Общее число исходов: \( C_8^3 = \frac{8!}{3!(8-3)!} = \frac{8!}{3!5!} = \frac{8 \times 7 \times 6}{3 \times 2 \times 1} = 8 \times 7 = 56 \).
Теперь найдём количество способов выбрать 2 красных шара из 5 и 1 зеленый шар из 3.
Число способов выбрать 2 красных шара из 5: \( C_5^2 = \frac{5!}{2!(5-2)!} = \frac{5!}{2!3!} = \frac{5 \times 4}{2 \times 1} = 10 \).
Число способов выбрать 1 зеленый шар из 3: \( C_3^1 = \frac{3!}{1!(3-1)!} = \frac{3!}{1!2!} = 3 \).
Число благоприятных исходов (2 красных и 1 зеленый шар): \( C_5^2 \times C_3^1 = 10 \times 3 = 30 \).
Вероятность того, что будут извлечены два красных шара и один зеленый, равна отношению числа благоприятных исходов к общему числу исходов:
\[ P = \frac{30}{56} = \frac{15}{28} \]
Можно также упростить дробь, разделив числитель и знаменатель на 2: \( \frac{30}{56} = \frac{15}{28} \).
Ответ: \( \frac{15}{28} \)