5) Найти область определения: \(\log_8(x^2-3x-4)\)

Аргумент логарифма должен быть положительным:

\(x^2-3x-4>0\).

Разложим квадратный трёхчлен: \((x-4)(x+1)>0\). Произведение положительно вне корней, поэтому \(x<-1\) или \(x>4\).

Ответ: \(D=(-\infty;-1)\cup(4; +\infty)\).