Ответ:

Действие происходило в определённый момент в прошлом и было прервано событием your mum came home, поэтому используется Past Continuous: were you doing.

Ответ: What were you doing when your mum came home?