Ответ:

а) \((5a-2b)^2-4ab(b-5a)=25a^2-20ab+4b^2-4ab^2+20a^2b\). При указанных значениях: \(25\cdot3-20\sqrt3(-1.781)+4(-1.781)^2-4\sqrt3(-1.781)^2+20\cdot3(-1.781)\approx-66.608\).

б) \((6x-5y)^2-12x(3x-5y)=36x^2-60xy+25y^2-36x^2+60xy=25y^2\). При \(y=\sqrt6\): \(25y^2=25\cdot6=150\).

Ответ: а) примерно −66,608; б) 150.