В данном случае, окончание «-юю» пишется в слове, которое отвечает на вопрос «какую?», если оно стоит после мягкого согласного. В примере «собаку (какую?)» нужно подобрать такое прилагательное, которое бы соответствовало этому правилу.
Пример подходящего слова: домашнюю.
Ответ: домашнюю