Ответ:

Раскроем скобки и приведём подобные слагаемые:

\((b+8)^2-2b(5b+8)=b^2+16b+64-10b^2-16b=-9b^2+64.\)

Ответ: \(-9b^2+64\).