Ответ:
Обозначим \(X=a^5(a-1)\), \(Y=b^3(b-1)\). Условия перепишутся так:
\(X>Y\), \(aX<bY\).
Числа \(a\) и \(b\) находятся по одну сторону от 1. Действительно, если \(a>1\), то \(X>0\), а из \(aX<bY\) следует \(Y>0\), значит, \(b>1\). Если \(a<1\), то \(X<0\), и из \(X>Y\) следует \(Y<0\), значит, \(b<1\). Случай, когда одно из чисел равно 1, условиям противоречит.
Если \(a,b>1\), то \(X,Y>0\). Поэтому из условий получаем \(1>X/Y>a/b\), откуда \(a<b\). Тогда
\(\dfrac{a^9(a-1)}{b^7(b-1)}=\left(\dfrac{a}{b}\right)^4\dfrac{X}{Y}<\left(\dfrac{a}{b}\right)^3<1\).
Если \(a,b<1\), положим \(P=-X=a^5(1-a)\), \(Q=-Y=b^3(1-b)\). Тогда \(0<P<Q\) и \(aP>bQ\), поэтому \(a>b\) и \(P/Q>b/a\). Значит,
\(\dfrac{a^9(1-a)}{b^7(1-b)}=\left(\dfrac{a}{b}\right)^4\dfrac{P}{Q}>\left(\dfrac{a}{b}\right)^3>1\).
В обоих случаях \(a^9(a-1)<b^7(b-1)\). Следовательно, \((a^{10}+b^7)-(a^9+b^8)=a^9(a-1)-b^7(b-1)<0\).
Ответ: больше \(a^9+b^8\).
