Преобразуем многочлен: $$a^2 + 4ab + 5b^2 = a^2 + 4ab + 4b^2 + b^2 = (a+2b)^2 + b^2$$. Так как квадрат любого действительного числа неотрицателен, то $$(a+2b)^2 \geq 0$$ и $$b^2 \geq 0$$. Следовательно, их сумма $$(a+2b)^2 + b^2 \geq 0$$. Таким образом, многочлен $$a^2 + 4ab + 5b^2$$ всегда принимает неотрицательные значения.