Ответ:

Правильный вариант: Шумело угрюмое море и с силой обрушивалось на скалистый берег.

Слово «море» является подлежащим, поэтому определение ставится в форме именительного падежа: «угрюмое море».