Ответ:

а) Точки A и B лежат в плоскости α, поэтому прямая AB принадлежит α. В прямоугольнике диагонали пересекаются и делятся точкой пересечения пополам; значит, точки A, O, C лежат на одной прямой AC, а B, O, D — на одной прямой BD. Точка O не лежит на AB, поскольку диагонали прямоугольника пересекаются внутри него. Прямая AB и точка O вне этой прямой определяют плоскость α.

Диагональ AC проходит через A и O, следовательно, целиком лежит в α, в том числе точка C. Диагональ BD проходит через B и O, поэтому также целиком лежит в α, в том числе точка D.

б) Диагонали прямоугольника равны и делятся пополам, поэтому \(OA=OB=\frac{AC}{2}=4\) см. Площадь прямоугольника равна \(\frac{1}{2}AC\cdot BD\cdot\sin\angle AOB\): это половина произведения длин диагоналей на синус угла между ними.

Так как \(BD=AC=8\) см и \(\sin60^\circ=\frac{\sqrt3}{2}\), получаем:

\(S=\frac{1}{2}\cdot8\cdot8\cdot\frac{\sqrt3}{2}=16\sqrt3\) см².

Ответ: \(16\sqrt3\) см².