Ответ:

Пусть на полке Маши было x книг. Тогда на полке брата — 4x книг.

По условию у брата на 12 книг больше: \(4x-x=12\).

\(3x=12\), значит, \(x=4\). На полке брата было \(4\cdot4=16\) книг.

Ответ: на полку Маши — 4 книги, на полку брата — 16 книг.