Чтобы получить \frac{8}{3}t^5k^2, нужно, чтобы второй член при умножении на \frac{4}{3}t^5 и удвоении дал \frac{8}{3}t^5k^2, значит это k^2.
$$(\frac{4}{3}t^5 + k^2)^2 = (\frac{4}{3}t^5)^2 + 2 * (\frac{4}{3}t^5) * k^2 + (k^2)^2 = \frac{16}{9}t^{10} + \frac{8}{3}t^5k^2 + k^4$$. Ответ: $$(\frac{4}{3}t^5 + k^2)^2 = \frac{16}{9}t^{10} + \frac{8}{3}t^5k^2 + k^4$$