If he had studied hard, he ... the exam.

Правильный ответ: "would have passed". Это условное предложение третьего типа, описывающее гипотетическую ситуацию в прошлом. Структура такого предложения: If + Past Perfect, would have + Participle II. В данном случае: "If he had studied hard, he would have passed the exam."