Ответ:

Сгруппируем слагаемые и применим разность квадратов:

\(a^2-16b^2-3a+12b=(a^2-16b^2)-3(a-4b)\).

\(a^2-16b^2=(a-4b)(a+4b)\), поэтому

\((a-4b)(a+4b)-3(a-4b)=(a-4b)(a+4b-3)\).

Ответ: вариант 2, \((a-4b)(a+4b-3)\).