Решаем:
1. Раскрываем первую скобку: (a(a + 2b) = a^2 + 2ab).
2. Раскрываем квадрат второй скобки: ((a + b)^2 = a^2 + 2ab + b^2).
3. Вычитаем второе выражение из первого: (a^2 + 2ab - (a^2 + 2ab + b^2)).
4. Раскрываем скобки, меняя знаки: (a^2 + 2ab - a^2 - 2ab - b^2).
5. Приводим подобные члены: ((a^2 - a^2) + (2ab - 2ab) - b^2).
6. Упрощаем: (-b^2).
Ответ: (-b^2).