Ответ:
а) Подкоренное выражение находится в знаменателе, поэтому требуется строгое неравенство:
\(x^2-18x+77>0\).
\(x^2-18x+77=(x-7)(x-11)\).
Произведение положительно при \(x<7\) или \(x>11\).
б) \((10x^2-11x-6)^{-1}=\frac{1}{10x^2-11x-6}\). Для существования корня необходимо:
\(10x^2-11x-6>0\).
Корни: \(x_1=-\frac{2}{5}\), \(x_2=\frac{3}{2}\).
Так как коэффициент при \(x^2\) положительный, получаем \(x<-\frac{2}{5}\) или \(x>\frac{3}{2}\).
Ответ: а) \(D=(-\infty;7)\cup(11;+\infty)\); б) \(D=\left(-\infty;-\frac{2}{5}\right)\cup\left(\frac{3}{2};+\infty\right)\).
