Ответ:

1. Решите неравенства

а) \(x^2-10x+21=(x-3)(x-7)\). Произведение неотрицательно вне промежутка между корнями:

\(x\in(-\infty;3]\cup[7;+\infty)\).

б) \(15x-3x^2=3x(5-x)>0\). Произведение положительно при \(0

\(x\in(0;5)\).

в) Перенесём правую часть влево и разложим разность квадратов:

\((1-5x)^2-(11+3x)^2=(-10-8x)(12-2x)\geq0\).

Корни множителей: \(-\frac54\) и \(6\). Произведение неотрицательно вне промежутка между корнями.

\(x\in\left(-\infty;-\frac54\right]\cup[6;+\infty)\).

2. \(-9x^2+24x-16=-(3x-4)^2\). Квадрат неотрицателен, поэтому его противоположное число неположительно при любом \(x\): \(-(3x-4)^2\leq0\).

3. Подкоренное выражение находится в знаменателе, поэтому необходимо решить неравенство \(5x^2+11x+6>0\).

Разложим на множители: \((5x+6)(x+1)>0\). Корни: \(-\frac65\) и \(-1\). Поскольку коэффициент при \(x^2\) положительный, выражение положительно вне промежутка между корнями.

Ответ: область определения — \(\left(-\infty;-\frac65\right)\cup(-1;+\infty)\).