3) \(\begin{pmatrix}3&-1&5\\-8&10&4\end{pmatrix}^{T}-3\begin{pmatrix}-5&-1\\8&4\\1&-1\end{pmatrix}\)

Транспонируем первую матрицу, меняя строки и столбцы, и умножаем вторую матрицу на 3:

\(\begin{pmatrix}3&-1&5\\-8&10&4\end{pmatrix}^{T}=\begin{pmatrix}3&-8\\-1&10\\5&4\end{pmatrix},\quad 3\begin{pmatrix}-5&-1\\8&4\\1&-1\end{pmatrix}=\begin{pmatrix}-15&-3\\24&12\\3&-3\end{pmatrix}.\)

Вычитаем соответствующие элементы: \(\begin{pmatrix}3&-8\\-1&10\\5&4\end{pmatrix}-\begin{pmatrix}-15&-3\\24&12\\3&-3\end{pmatrix}=\begin{pmatrix}18&-5\\-25&-2\\2&7\end{pmatrix}.\)

Ответ: \(\begin{pmatrix}18&-5\\-25&-2\\2&7\end{pmatrix}\).