По какой формуле в данном случае определяется коэффициент трения скольжения μ?

Коэффициент трения скольжения равен отношению силы трения к силе нормальной реакции. На горизонтальной поверхности сила нормальной реакции равна силе тяжести: N = m·g.

Следовательно, выбираем формулу μ = F_тр.ск/(m·g).