Всего в ящике 5 красных и 3 зеленых шара, то есть 8 шаров.
Вероятность вытащить красный шар: $$\frac{5}{8}$$
Вероятность вытащить зеленый шар: $$\frac{3}{8}$$
Так как порядок извлечения шаров имеет значение, возможны следующие варианты: ККЗ, КЗК, ЗКК.
Вероятность для каждого варианта:
$$P(ККЗ) = \frac{5}{8} \cdot \frac{5}{8} \cdot \frac{3}{8} = \frac{75}{512}$$
$$P(КЗК) = \frac{5}{8} \cdot \frac{3}{8} \cdot \frac{5}{8} = \frac{75}{512}$$
$$P(ЗКК) = \frac{3}{8} \cdot \frac{5}{8} \cdot \frac{5}{8} = \frac{75}{512}$$
Суммарная вероятность: $$P = P(ККЗ) + P(КЗК) + P(ЗКК) = 3 \cdot \frac{75}{512} = \frac{225}{512}$$
Ответ: $$3 \cdot \frac{5}{8} \cdot \frac{5}{8} \cdot \frac{3}{8}$$