Пусть x - стоимость рюкзака, y - стоимость торта. Тогда у мамы сдача: (600 - x), у папы сдача: (680 - x). По условию, сдача у мамы в 5 раз больше остатка, чем у Вити после покупки торта. Сдача у папы в 6 раз больше, чем остаток у Вити после покупки торта. Получаем систему уравнений:
$$600 - x = 5y$$
$$680 - x = 6y$$
Умножим первое уравнение на 6, второе на 5:
$$3600 - 6x = 30y$$
$$3400 - 5x = 30y$$
Вычтем из первого уравнения второе:
$$3600 - 6x - (3400 - 5x) = 0$$
$$3600 - 6x - 3400 + 5x = 0$$
$$200 - x = 0$$
$$x = 200$$
Тогда стоимость рюкзака 200 рублей. Подставим значение х в одно из уравнений системы, например, в первое:
$$600 - 200 = 5y$$
$$400 = 5y$$
$$y = 80$$
Торт стоил 80 рублей.
Ответ: 80 рублей.