Ответ:

а) Находим знаменатель: \(q=\frac{b_2}{b_1}=\frac{-20}{40}=-\frac12\).

Тогда \(S_6=40\cdot\dfrac{1-(-1/2)^6}{1-(-1/2)}=40\cdot\dfrac{63/64}{3/2}=\frac{105}{4}=26.25\).

б) Из \(b_{11}=b_1q^{10}\) получаем \(q^{10}=\frac{3}{48}=\frac1{16}\), поэтому возможны \(q=\frac1{\sqrt[5]{4}}\) и \(q=-\frac1{\sqrt[5]{4}}\). Условие не задаёт знак знаменателя, поэтому сумма имеет два значения.

При \(q=\frac1{\sqrt[5]{4}}\): \(S_6=12\cdot\dfrac{1-q^6}{1-q}\).

При \(q=-\frac1{\sqrt[5]{4}}\): \(S_6=12\cdot\dfrac{1-q^6}{1-q}\).

Ответ: а) \(\frac{105}{4}\); б) при положительном знаменателе \(12\dfrac{1-(1/\sqrt[5]{4})^6}{1-1/\sqrt[5]{4}}\), при отрицательном — \(12\dfrac{1-(-1/\sqrt[5]{4})^6}{1+1/\sqrt[5]{4}}\).