Ответ:

а)

Подставим значения:

\[\frac{(a+b)^2-1}{a^2+1}=\frac{(-3-1)^2-1}{(-3)^2+1}=\frac{16-1}{9+1}=\frac{15}{10}=\frac{3}{2}.\]

б) Представим смешанное число в виде неправильной дроби: \(1\frac{1}{2}=\frac{3}{2}\).

\[\frac{(a+b)^2-1}{a^2+1}=\frac{(1.5+0.5)^2-1}{1.5^2+1}=\frac{2^2-1}{2.25+1}=\frac{3}{3.25}=\frac{3}{\frac{13}{4}}=\frac{12}{13}.\]

Ответ: а) \(\frac{3}{2}\); б) \(\frac{12}{13}\).