Ответ:

Обозначим площади, окрашенные красной, зелёной и синей красками, через 16, 15 и 12 м². Площадь пола — 20 м².

Чтобы сумма площадей трёх окрашенных частей не превышала площадь пола, участки, окрашенные двумя красками, учитываются повторно, а участки, окрашенные всеми тремя, — дважды сверх площади пола. Поэтому площадь тройного пересечения не меньше:

\(\frac{16+15+12-20}{2}=\frac{23}{2}\) м².

Однако эти данные задают более сильную нижнюю границу: в любой точке пола максимум три слоя, и сумма площадей превышает площадь пола на 23 м². Тройное пересечение должно быть не меньше 3 м², так как можно разместить попарные пересечения без тройного слоя не более чем на 17 м²: тогда сумма превышений над площадью пола составляет не более \(17+2x\), где \(x\) — площадь тройного пересечения. Значит, \(17+2x\ge23\), откуда \(x\ge3\).

Граница достижима: можно распределить площадь так, чтобы 3 м² были окрашены всеми тремя цветами, а участки, окрашенные только попарно, имели площади 8, 5 и 4 м² для пар красный-зелёный, красный-синий и зелёный-синий. Тогда площади красного, зелёного и синего слоёв равны соответственно 16, 15 и 12 м².

Ответ: 3 м².