Предложение описывает действие, которое происходило в прошлом (делать домашнюю работу) и было прервано другим действием (друг позвонил). Для первого действия используется Past Continuous (was/were + V-ing).
Правильный вариант — b) was doing.
I was doing my homework when my friend called me. (Я делал домашнюю работу, когда мой друг позвонил.)
Ответ: b) was doing