Ответ:

Во втором случае заплатили больше, потому что купили на один учебник по математике больше.

Разница в стоимости наборов — это цена одного учебника по математике:

230 − 170 = 60 (р.)

Значит, учебник по математике стоит 60 рублей. Тогда цена учебника по русскому языку:

170 − 60 = 110 (р.)

Ответ: учебник по математике стоит 60 р., по русскому языку — 110 р.