5. Найдите область определения выражения: √((x² − 2x − 8)/(16 − x²)).

Подкоренное выражение должно быть неотрицательным, а знаменатель — отличным от нуля:

\(\frac{x^2-2x-8}{16-x^2}\ge0,\quad x\ne-4,\;x\ne4.\)

Разложим на множители: \(\frac{(x-4)(x+2)}{(4-x)(4+x)}\ge0\). При \(x\ne\pm4\) выражение равносильно \(-\frac{x+2}{x+4}\ge0\), то есть \(\frac{x+2}{x+4}\le0\). Критические точки: \(-4\) и \(-2\); учитывая исключение \(x=4\), получаем промежуток \((-4;-2]\).

Ответ: \(D=(-4;-2]\).