Когда учится "наизусть" вместо понимания сути - это состояние, когда нейросеть запоминает обучающие данные слишком хорошо, включая шум и специфические детали, вместо того чтобы обобщать и понимать общие закономерности. В результате, нейросеть отлично работает на обучающих данных, но плохо справляется с новыми, ранее не виденными данными.