Ответ:

Вероятность попадания случайной точки в фигуру равна отношению площади этой фигуры к площади круга.

а) Пусть радиус круга равен \(R\). Сторона вписанного квадрата равна \(R\sqrt{2}\), поэтому его площадь:

\[S_{\text{кв}}=(R\sqrt{2})^2=2R^2.\]

Площадь круга: \(S_{\text{кр}}=\pi R^2\). Тогда

\[P_a=\frac{S_{\text{кв}}}{S_{\text{кр}}}=\frac{2R^2}{\pi R^2}=\frac{2}{\pi}.\]

б) В равностороннем треугольнике, вписанном в круг радиуса \(R\), сторона равна \(R\sqrt{3}\). Поэтому площадь треугольника:

\[S_{\triangle}=\frac{1}{2}\cdot R\sqrt{3}\cdot\frac{3R}{2}=\frac{3\sqrt{3}}{4}R^2.\]

Следовательно,

\[P_b=\frac{S_{\triangle}}{S_{\text{кр}}}=\frac{\frac{3\sqrt{3}}{4}R^2}{\pi R^2}=\frac{3\sqrt{3}}{4\pi}.\]

Ответ: а) \(\frac{2}{\pi}\); б) \(\frac{3\sqrt{3}}{4\pi}\).