Ответ:

Найдём длину бокового ребра \(l\). Его высота к плоскости основания равна \(l\sin 60^\circ\), поэтому

\[l\sin 60^\circ=5\sqrt{3},\qquad l=\frac{5\sqrt{3}}{\sqrt{3}/2}=10.\]

Две смежные боковые грани имеют общее ребро длины \(l\). Площади их сечений плоскостями, перпендикулярными общему ребру, равны соответственно \(40/l\) и \(60/l\). Угол между этими сечениями равен углу между гранями, то есть \(45^\circ\). Объём равен длине общего ребра, умноженной на площадь параллелограмма, образованного сечениями:

\[V=l\cdot\frac{40}{l}\cdot\frac{60}{l}\sin 45^\circ=\frac{40\cdot60\cdot\sin45^\circ}{10}.\]

\[V=\frac{2400\cdot\sqrt{2}/2}{10}=120\sqrt{2}.\]

Ответ: \(120\sqrt{2}\).