Ответ:

Правильная форма слова — в векторном.

В векторном графике изображение формируется с помощью графических объектов и формул их построения.

Ответ: векторном