a) Преобразуем выражение:
$$5a(3ab-1) -4b(a^2-b) = 15a^2b - 5a - 4a^2b + 4b^2 = 11a^2b - 5a + 4b^2$$Среди предложенных вариантов ответа нет верного.
б) Преобразуем выражение:
$$3p(8c + 1) - 8c(3p-5) = 24pc + 3p - 24pc + 40c = 3p + 40c$$Следовательно, подходит вариант ответа 1) 3p+40c.
Ответ: a) нет верного ответа, б) 1) 3p+40c