3. Найдите значение выражения \(10ab-(a+5b)^2\) при \(a=\sqrt{10}, b=\sqrt{14}\).

Раскроем квадрат суммы: \((a+5b)^2=a^2+10ab+25b^2\). Тогда

\(10ab-(a+5b)^2=10ab-a^2-10ab-25b^2=-a^2-25b^2.\)

Подставим значения: \(-( \sqrt{10})^2-25( \sqrt{14})^2=-10-350=-360.\)

Ответ: −360.