5. Разложите многочлен на множители: а) x³ + 3x² − x − 3; б) 64a³ − 1; в) −8ax² + 8ax − 2a; г) (6x − y)² − (7x + 3y)².

1. Сгруппируем слагаемые:
   \[x^3+3x^2-x-3=x^2(x+3)-(x+3)=(x+3)(x^2-1)=(x+3)(x-1)(x+1).\]
2. Применим формулу разности кубов:
   \[64a^3-1=(4a)^3-1^3=(4a-1)(16a^2+4a+1).\]
3. Вынесем общий множитель и выделим квадрат:
   \[-8ax^2+8ax-2a=-2a(4x^2-4x+1)=-2a(2x-1)^2.\]
4. Применим формулу разности квадратов:
   \[(6x-y)^2-(7x+3y)^2=((-x-4y)(13x+2y))=-(x+4y)(13x+2y).\]

Ответ: а) \((x+3)(x-1)(x+1)\); б) \((4a-1)(16a^2+4a+1)\); в) \(-2a(2x-1)^2\); г) \(-(x+4y)(13x+2y)\).