Ответ:

1) «Нина читала книгу, принадлежавшую матери» — слово «матери» стоит в родительном падеже и обозначает обладателя книги.

2) «Нина читала книгу матери» — слово «матери» стоит в дательном падеже и обозначает того, кому Нина читала книгу вслух.

Синтаксическая омонимия есть в предложении «Нина читала книгу матери», потому что форма «матери» может быть родительным падежом (чья книга?) или дательным падежом (кому читала?).

Синтаксическая омонимия есть в предложении «Нина читала книгу матери», потому что при неизменном порядке слов возможны два синтаксических разбора: «матери» зависит от слова «книгу» как обладатель либо от глагола «читала» как адресат действия.