5. Докажите, что при всех допустимых значениях переменных выражение \(\frac1{a^2-4b^2}-\frac1{a^2-4ab+4b^2}-\frac1{a^2+4ab+4b^2}\) принимает отрицательное значение.

Разложим знаменатели на множители:

\(a^2-4b^2=(a-2b)(a+2b)\), \(a^2-4ab+4b^2=(a-2b)^2\), \(a^2+4ab+4b^2=(a+2b)^2\).

Допустимые значения удовлетворяют условиям \(a\ne2b\) и \(a\ne-2b\). Обозначим \(u=a-2b\), \(v=a+2b\); тогда \(u\ne0\), \(v\ne0\), и выражение равно

\(\frac1{uv}-\frac1{u^2}-\frac1{v^2}=\frac{uv-u^2-v^2}{u^2v^2}=-\frac{u^2-uv+v^2}{u^2v^2}\).

Знаменатель \(u^2v^2\) положителен. Числитель в последней дроби отрицателен, поскольку \(u^2-uv+v^2=(u-\frac v2)^2+\frac{3v^2}{4}>0\). Следовательно, выражение отрицательно при всех допустимых значениях.

Что и требовалось доказать.