Ответ:

Выделим полные квадраты:

\(a^2-8ab+17b^2-2b+3=(a-4b)^2+b^2-2b+3\).

Дополнительно преобразуем выражение с \(b\): \(b^2-2b+3=(b-1)^2+2\).

Значит, исходное выражение равно \((a-4b)^2+(b-1)^2+2\). Квадраты неотрицательны, поэтому всё выражение не меньше 2 и, следовательно, строго положительно при любых действительных \(a\) и \(b\).