а) \((a+5)^2-2a(3a-4)=a^2+10a+25-6a^2+8a=-5a^2+18a+25\).
б) \((x-2y)(x^2+2xy+4y^2)=x^3+2x^2y+4xy^2-2x^2y-4xy^2-8y^3=x^3-8y^3\).
Ответ: а) \(-5a^2+18a+25\); б) \(x^3-8y^3\).