Ответ:

Рассмотрим шар в одной из вершин. На него действуют силы притяжения двух остальных шаров. Каждая сила имеет величину \(F=\dfrac{GM^2}{a^2}\), а угол между силами равен \(60^\circ\).

По теореме косинусов для суммы двух векторов:

\[F_{\text{рез}}=\sqrt{F^2+F^2+2F^2\cos 60^\circ}=F\sqrt{3}.\]

Подставим выражение для \(F\):

\[F_{\text{рез}}=\frac{\sqrt{3}\,GM^2}{a^2}.\]

Ответ: \(\dfrac{\sqrt{3}\,GM^2}{a^2}\).