Ответ:

Смешанные числа преобразуем в неправильные дроби: \(16\frac18=\frac{129}{8}\), \(26\frac18=\frac{209}{8}\).

\(\left(\frac{129}{8}\right)^2-\frac{209}{8}=\frac{16641}{64}-\frac{1672}{64}=\frac{14969}{64}=\frac{233\,9}{64}\).

Ответ: \(\frac{14969}{64}\).