a) Точка C на оси ординат имеет координаты (0, y, 0).
$$AC^2 = (0-2)^2 + (y-5)^2 + (0-8)^2 = 4 + (y-5)^2 + 64 = (y-5)^2 + 68$$.
$$BC^2 = (0-6)^2 + (y-1)^2 + (0-0)^2 = 36 + (y-1)^2$$.
Приравниваем $$AC^2 = BC^2$$: $$(y-5)^2 + 68 = 36 + (y-1)^2$$.
$$y^2 - 10y + 25 + 68 = 36 + y^2 - 2y + 1$$.
$$-10y + 93 = 37 - 2y$$.
$$6y = 56$$, $$y = \frac{56}{6} = \frac{28}{3}$$.
Точка C: $$(0, \frac{28}{3}, 0)$$.
b) Площадь треугольника ABC можно найти как половину модуля векторного произведения векторов AB и AC.
$$\vec{AB} = (6-2, 1-5, 0-8) = (4, -4, -8)$$.
$$\vec{AC} = (0-2, \frac{28}{3}-5, 0-8) = (-2, \frac{13}{3}, -8)$$.
$$\vec{AB} \times \vec{AC} = ((-4)(-8) - (-8)(\frac{13}{3}), (-8)(-2) - (4)(-8), (4)(\frac{13}{3}) - (-4)(-2)) = (32 + \frac{104}{3}, 16 + 32, \frac{52}{3} - 8) = (\frac{96+104}{3}, 48, \frac{52-24}{3}) = (\frac{200}{3}, 48, \frac{28}{3})$$.
Площадь = $$\frac{1}{2} |\vec{AB} \times \vec{AC}| = \frac{1}{2} \sqrt{(\frac{200}{3})^2 + 48^2 + (\frac{28}{3})^2} = \frac{1}{2} \sqrt{\frac{40000}{9} + 2304 + \frac{784}{9}} = \frac{1}{2} \sqrt{\frac{40784}{9} + \frac{20736}{9}} = \frac{1}{2} \sqrt{\frac{61520}{9}} = \frac{1}{2} \frac{\sqrt{61520}}{3} = \frac{\sqrt{61520}}{6} = \frac{4\sqrt{3845}}{6} = \frac{2\sqrt{3845}}{3}$$.