Ответ:

Пусть сторона вырезаемого квадрата равна x см. Тогда высота коробки будет x см, а стороны её дна — 20 − 2x см и 12 − 2x см.

Площадь боковой поверхности равна сумме площадей четырёх стенок:

S = 2x(20 − 2x) + 2x(12 − 2x) = 64x − 8x2.

Допустимые значения: 0 < x < 6, поскольку сторона меньшего размера листа равна 12 см.

Это квадратичная функция, ветви её графика направлены вниз. Максимум достигается в вершине: x = −64 ÷ (2 · (−8)) = 4.

Ответ: 4 см.