Пусть x - общее количество человек в трех пятых классах.
Тогда в 5 «А» - \(\frac{2}{5}x\) человек.
В 5 «В» - \(\frac{3}{4} \cdot \frac{2}{5}x = \frac{3}{10}x\) человек.
Количество человек в 5 «Б» на 4 больше, чем в 5 «В», то есть в 5 «Б» - \(\frac{3}{10}x + 4\) человек.
\(\frac{2}{5}x + \frac{3}{10}x + \frac{3}{10}x + 4 = x\)
\(\frac{4}{10}x + \frac{3}{10}x + \frac{3}{10}x + 4 = x\)
\(\frac{10}{10}x + 4 = x\)
\(x + 4 = x\)
Это уравнение не имеет решения. Похоже, условие некорректно или в условии ошибка. Если бы вопрос был просто найти связь между классами и их численностью, то решение выглядело бы так, но без конечного ответа из-за неполноты данных.