Уравнение не имеет корней, если дискриминант меньше нуля:
$$D = b^2 - 4ac < 0$$
$$D = (-3a)^2 - 4 \cdot 25 \cdot 1 < 0$$
$$9a^2 - 100 < 0$$
$$9a^2 < 100$$
$$a^2 < \frac{100}{9}$$
$$-\frac{10}{3} < a < \frac{10}{3}$$
Ответ: $$a \in (-\frac{10}{3}; \frac{10}{3})$$