В сообщающихся сосудах давления на одном горизонтальном уровне равны. Выберем уровень границы раздела жидкостей:
Давление слева на этом уровне создаёт столб воды высотой \(h\), а справа — столб более плотной жидкости высотой \(b\) и столб воды высотой \(H-h\):
\[\rho_1gh=\rho_1g(H-h)+\rho_2gb.\]
Отсюда
\[b=\frac{\rho_1(2h-H)}{\rho_2}.\]
Подставим значения: \(\rho_1=1000\ \text{кг/м}^3\), \(\rho_2=1500\ \text{кг/м}^3\), \(h=10\ \text{см}\), \(H=12\ \text{см}\):
\[b=\frac{1000(2\cdot10-12)}{1500}=\frac{8000}{1500}\ \text{см}=5{,}33\ \text{см}.\]
Ответ: \(b\approx5{,}3\ \text{см}\).