Ответ:

Раскроем скобки и приведём подобные слагаемые:

\((b+8)^2-2b(5b+8)=b^2+16b+64-10b^2-16b\).

\(b^2-10b^2+16b-16b+64=64-9b^2\).

Ответ: \(64-9b^2\).