Предложение с грамматической ошибкой — второе.
Ошибка: неправильное употребление предлога «по» с существительным в данной конструкции. Правильно говорить «по прибытии» или «по приезде», но существительное должно стоять в дательном падеже, а не в предложном.
Ответ: По приезде в город мы поспешили в музей.