Математическая задача была сложной, но после усердных раздумий они нашли ответ.
Применим Протокол Е. Необходимо выбрать правильную форму.
В данном контексте, после усердных раздумий логично будет найти решение задачи.
Следовательно, правильный вариант - "worked out".
Ответ: The maths problem was difficult, but after thinking hard, they worked out the answer.