4) (3ab − 8a²b²)² =

Используем формулу квадрата разности: \((a-b)^2=a^2-2ab+b^2\).

\[(3ab-8a^2b^2)^2=(3ab)^2-2\cdot3ab\cdot8a^2b^2+(8a^2b^2)^2=9a^2b^2-48a^3b^3+64a^4b^4.\]

Ответ: \(9a^2b^2-48a^3b^3+64a^4b^4\)