Ответ:

а) Сначала вычислим подкоренные выражения и учтём, что смешанные числа равны неправильным дробям:

\(5^2+12^2-13^2=25+144-169=0\), а \(1\frac{24}{25}=\frac{49}{25}\). Поэтому

\(\sqrt{0}+\sqrt{\frac{1}{25}+\frac{49}{25}}-\sqrt{1}=0+\sqrt{2}-1=\sqrt{2}-1.\)

б) \(10^2-8^2-6^2=100-64-36=0\). Кроме того, \(1\frac{9}{16}=\frac{25}{16}\), поэтому под внешним корнем получаем

\(\sqrt{\frac{25}{16}}+\sqrt{1}-\left(\sqrt{\frac12}\right)^2=\frac54+1-\frac12=\frac74.\)

Тогда всё выражение равно \(\sqrt{0}+\sqrt{\frac74}=\frac{\sqrt7}{2}.\)

Ответ: а) \(\sqrt2-1\); б) \(\frac{\sqrt7}{2}\).