Ответ:

Способ 1: сначала узнаем, сколько книг взяли: \(5+6=11\) (книг). Затем найдём остаток: \(15-11=4\) (книги).

Способ 2: после того как Витя взял книги, осталось \(15-5=10\) (книг). Затем Костя взял 6 книг: \(10-6=4\) (книги).

Ответ: 4 книги.