Ответ:

Распознаём полный квадрат: 16x²−40xy+25y²=(4x−5y)².

Переведём смешанные числа в неправильные дроби: x=23/4, y=21/5.

Подставим: (4·23/4−5·21/5)²=(23−21)²=2²=4.

Ответ: 4.