Ответ:

Выделим полный квадрат:

\(a^2-8ab+17b^2-2b+3=(a-4b)^2+b^2-2b+3\).

Преобразуем оставшееся выражение:

\(b^2-2b+3=(b-1)^2+2\).

Следовательно, \(a^2-8ab+17b^2-2b+3=(a-4b)^2+(b-1)^2+2\). Квадраты неотрицательны при любых действительных \(a\) и \(b\), поэтому всё выражение не меньше 2 и, значит, строго положительно.

Ответ: неравенство верно при всех действительных \(a\) и \(b\).