Ответ:

а) Выносим полные квадраты из-под корней: \(\sqrt{50}=5\sqrt{2}\), \(\sqrt{98}=7\sqrt{2}\). Тогда \(10\sqrt{2}-4\cdot5\sqrt{2}+7\sqrt{2}=(10-20+7)\sqrt{2}=-3\sqrt{2}\).

б) Для действительных значений выражения требуется \(y\geq0\). Имеем \(10\sqrt{0{,}12y}=10\cdot\frac{\sqrt{3}}{5}\sqrt{y}=2\sqrt{3y}\), \(\sqrt{588y}=14\sqrt{3y}\), \(5\sqrt{27y}=15\sqrt{3y}\). Поэтому \((2+14-15)\sqrt{3y}=\sqrt{3y}\).

Ответ: а) \(-3\sqrt{2}\); б) \(\sqrt{3y}\), при \(y\geq0\).