5. \((\sqrt{14}-3)^2+6\sqrt{14}\)

Раскроем квадрат разности: \((a-b)^2=a^2-2ab+b^2\).

\[(\sqrt{14}-3)^2+6\sqrt{14}=14-6\sqrt{14}+9+6\sqrt{14}.\]

Слагаемые \(-6\sqrt{14}\) и \(+6\sqrt{14}\) взаимно уничтожаются:

\[14+9=23.\]

Ответ: 23