Ответ:

а) Используем разность квадратов:

\((5a-b)^2-(5a+b)^2=((5a-b)-(5a+b))((5a-b)+(5a+b))\).

\(=(-2b)\cdot10a=-20ab\).

Подставим \(ab=5\): \(-20\cdot5+11=-100+11=-89\).

б) \((6a+b)^2-(6a-b)^2=((6a+b)-(6a-b))((6a+b)+(6a-b))\).

\(=(2b)\cdot12a=24ab\).

Подставим \(ab=10\): \(24\cdot10-13=240-13=227\).

Ответ: а) \(-89\); б) \(227\).