Ответ:

Площадь квадрата равна \(a^2\), а площадь отрезанного прямоугольника — \(ab\).

Площадь оставшейся фигуры:

\(a^2 - ab = a(a - b)\).

Ответ: 3) \(a(a - b)\).