3. \((7\sqrt7-11\sqrt3)(11\sqrt3+7\sqrt7)\)

Применим формулу разности квадратов: \((a-b)(a+b)=a^2-b^2\).

\[(7\sqrt7-11\sqrt3)(7\sqrt7+11\sqrt3)=(7\sqrt7)^2-(11\sqrt3)^2=343-363=-20.\]

Ответ: \(-20\)