Пусть x - общее количество книг на полке.
Тогда книги в твёрдом переплёте составляют $$ \frac{5}{12}x $$, а книги в мягком переплёте 21 штука.
Вместе книги в твёрдом и мягком переплёте составляют все книги на полке, т.е. $$ x = \frac{5}{12}x + 21 $$.
Решим уравнение:
$$ x - \frac{5}{12}x = 21 $$
$$ \frac{7}{12}x = 21 $$
$$ x = \frac{21}{\frac{7}{12}} = 21 \cdot \frac{12}{7} = 3 \cdot 12 = 36 $$.
Ответ: Всего на полке 36 книг.