Решение по шагам:
1. Раскрываем первую скобку: (a(a + 5b) = a^2 + 5ab).
2. Раскрываем вторую скобку: ((a + b)(a - b) = a^2 - b^2).
3. Вычитаем второе выражение из первого: (a^2 + 5ab - (a^2 - b^2)).
4. Раскрываем скобки, меняя знаки: (a^2 + 5ab - a^2 + b^2).
5. Приводим подобные члены: ((a^2 - a^2) + 5ab + b^2).
6. Упрощаем: (5ab + b^2).
Ответ: (5ab + b^2).