Ответ:

Правильный вариант — 2. В языковых моделях токен — это единица текста (например, слово, часть слова или символ), которой соответствует числовое представление, используемое моделью для обработки текста.