Ответ:

По условию площадь прямоугольника на 12 см² больше площади квадрата, поэтому \(ab=x^2+12\). Подставим заданные стороны:

\((x+3)(x-1)=x^2+12\).

Раскроем скобки: \(x^2+2x-3=x^2+12\), откуда \(2x=15\) и \(x=7.5\) см.

Теперь проверим условие о равенстве площадей после изменения размеров. Новые стороны прямоугольника равны \(a+2=x+5\) и \(b-1=x-2\). Для равенства его площади площади квадрата должно выполняться \((x+5)(x-2)=x^2\). Раскрывая скобки, получаем \(x^2+3x-10=x^2\), откуда \(x=\frac{10}{3}\) см.

Получились разные значения: первое условие требует \(x=7.5\), а второе — \(x=\frac{10}{3}\). Следовательно, условия задачи несовместимы, и решения, удовлетворяющего им одновременно, нет. Каждое значение по отдельности даёт положительные исходные стороны при \(x>1\), но это не устраняет противоречия.

Ответ: задача в приведённом виде не имеет решения; условия дают несовпадающие значения x — 7,5 см и \(\frac{10}{3}\) см.