а) Пусть катет каждого из отсекаемых прямоугольных равнобедренных треугольников равен \( x \) см. Тогда сторона восьмиугольника равна \( x\sqrt{2} \) см.
Сторона квадрата равна \( 12 \) см, и она состоит из двух катетов и стороны восьмиугольника:
\[ x + x\sqrt{2} + x = 12 \]
\[ x(2 + \sqrt{2}) = 12 \]
\[ x = \frac{12}{2 + \sqrt{2}} = \frac{12(2 - \sqrt{2})}{(2 + \sqrt{2})(2 - \sqrt{2})} = \frac{12(2 - \sqrt{2})}{4 - 2} = \frac{12(2 - \sqrt{2})}{2} = 6(2 - \sqrt{2}) \]
Тогда сторона восьмиугольника равна: \[x\sqrt{2} = 6(2 - \sqrt{2}) \cdot \sqrt{2} = 6(2\sqrt{2} - 2) = 12(\sqrt{2} - 1)\] см.
б) Площадь одного отсеченного треугольника равна \( \frac{1}{2}x^2 \), а так как таких треугольников 4, то общая площадь отходов равна: \[4 \cdot \frac{1}{2}x^2 = 2x^2 = 2 \cdot (6(2 - \sqrt{2}))^2 = 2 \cdot 36(4 - 4\sqrt{2} + 2) = 72(6 - 4\sqrt{2}) = 72 \cdot 2(3 - 2\sqrt{2}) = 144(3 - 2\sqrt{2})\] см2.
Площадь исходной плитки равна \( 12^2 = 144 \) см2.
Доля площади, ушедшей в отходы, равна: \[\frac{144(3 - 2\sqrt{2})}{144} = 3 - 2\sqrt{2}\].
Ответ: а) \( 12(\sqrt{2} - 1) \) см; б) \( 3 - 2\sqrt{2} \).