a) $$5a(3ab-1)-4b(a^2-b) = 15a^2b-5a -4a^2b + 4b^2 = (15-4)a^2b - 5a + 4b^2 = 11a^2b - 5a + 4b^2$$. Предложенные варианты ответа не соответствуют полученному многочлену.
б) $$3p(8c-1) - 8c(3p-5) = 24pc - 3p - 24pc + 40c = (24 - 24)pc - 3p + 40c = -3p + 40c$$.
Ответ: a) $$11a^2b - 5a + 4b^2$$; б) 1) 3p+40c