Ответ:

Не хватает второго расстояния — фрагмент с ним обрезан. Кроме того, для вычисления длины AB важно знать порядок точек на луче.

Пришлите изображение условия целиком, чтобы можно было найти AB.