Ответ:

Пусть \(a= g x\), \(b=\ctg x\). Тогда \(a+b=3\), а \(ab=1\), поскольку \( g x\cdot\ctg x=1\).

I вариант. \[(a-b)^2=(a+b)^2-4ab=3^2-4=5.\] Поэтому \( g x-\ctg x=\pm\sqrt5\): знак нельзя определить по заданному условию.

II вариант. \[ g^2x-\ctg^2x=( g x-\ctg x)( g x+\ctg x)=\pm\sqrt5\cdot3=\pm3\sqrt5.\]

Ответ: I вариант — \(\pm\sqrt5\); II вариант — \(\pm3\sqrt5\).