5. Докажите неравенство: x² − 10xy + 26y² + 12y + 40 > 0.

Сгруппируем слагаемые и выделим полные квадраты:

\(x^2-10xy+26y^2+12y+40=(x-5y)^2+y^2+12y+40\).

Дополняем квадрат по \(y\): \(y^2+12y+40=(y+6)^2+4\). Поэтому

\(x^2-10xy+26y^2+12y+40=(x-5y)^2+(y+6)^2+4\).

Квадраты неотрицательны, а \(4>0\), следовательно, сумма строго положительна при любых действительных \(x\) и \(y\).

Неравенство доказано.