Ответ:

а) Раскроем скобки и приведём подобные слагаемые:

\((a-5)^2-a(3a-2)=a^2-10a+25-(3a^2-2a)=-2a^2-8a+25.\)

б) При умножении степеней с одинаковым основанием показатели складываются, при делении — вычитаются:

\(\frac{x^3\cdot x^7}{x^5}=x^{3+7-5}=x^5\), где \(x\ne0\).

Ответ: а) \(-2a^2-8a+25\); б) \(x^5\), \(x\ne0\).