Выполним приведение подобных слагаемых.
$$\frac{1}{5}a^2b^2 + \frac{2}{5}ab^2 + 3ab^2 + \frac{4}{5}a^2b^2 = (\frac{1}{5} + \frac{4}{5})a^2b^2 + (\frac{2}{5} + 3)ab^2 = \frac{5}{5}a^2b^2 + (\frac{2}{5} + \frac{15}{5})ab^2 = a^2b^2 + \frac{17}{5}ab^2 = a^2b^2 + 3\frac{2}{5}ab^2$$
Ответ: $$a^2b^2 + 3\frac{2}{5}ab^2$$