Ответ:

Подкоренное выражение должно быть неотрицательным, а его знаменатель — отличным от нуля:

\(\frac{x^2-6x+9}{x^2-16}=\frac{(x-3)^2}{(x-4)(x+4)}\ge0\), при \(x\ne-4\) и \(x\ne4\).

Числитель неотрицателен и обращается в нуль при \(x=3\), поэтому это значение входит в область определения. При остальных значениях дробь положительна, когда \(x^2-16>0\), то есть при \(x<-4\) или \(x>4\).

Ответ: \(D(f)=(-\infty;-4)\cup\{3\}\cup(4;+\infty)\).