Ответ:

Обозначим меньшую и большую стороны прямоугольника через \(a\) и \(b\), где \(a<b\). Диагонали равны 18 см. Векторы диагоналей можно представить как \((b,a)\) и \((b,-a)\). Для тупого угла между ними:

\(\cos120^\circ=\dfrac{b^2-a^2}{18^2}=-\dfrac12\) при соответствующем выборе направлений; поэтому для угла 120° получается \(b^2-a^2=\dfrac{18^2}{2}\). Также по теореме Пифагора \(a^2+b^2=18^2\).

Вычитаем первое равенство из второго: \(2a^2=18^2-\dfrac{18^2}{2}=162\). Тогда \(a^2=81\), откуда \(a=9\) см.

Ответ: 9 см.