Ответ:

  1. Если \(x<\frac35\), то \(|5x-3|=3-5x\). Тогда \(x^2+4x-5<0\), то есть \((x+5)(x-1)<0\). Получаем \(-5

  2. Если \(x\ge\frac35\), то \(|5x-3|=5x-3\). Тогда \(x^2-6x+1<0\). Корни — \(3-2\sqrt2\) и \(3+2\sqrt2\), поэтому с учётом условия случая получаем \([\frac35,3+2\sqrt2)\).

  3. Объединяем найденные промежутки.

Ответ: \(x\in(-5,3+2\sqrt2)\).