1. Используем формулу квадрата разности: (x-y)² = x² - 2xy + y².
2. Подставляем значения: a² - 2*a*(5b) + (5b)².
3. Упрощаем: a² - 10ab + 25b².
Ответ: a² - 10ab + 25b²