Ответ:

Обозначим длину диагонали AC через x.

Так как четырёхугольник вписан в окружность, противоположные углы B и D в сумме равны 180°, поэтому cos D = −cos B.

По теореме косинусов в треугольнике ABC: cos B = (3² + 5² − x²) / (2 · 3 · 5) = (34 − x²) / 30.

В треугольнике ADC: cos D = (3² + 8² − x²) / (2 · 3 · 8) = (73 − x²) / 48.

Приравняем косинус угла D к противоположному косинусу угла B:

(73 − x²) / 48 = −(34 − x²) / 30.

Умножим на 240: 5(73 − x²) = −8(34 − x²).

365 − 5x² = −272 + 8x², откуда 637 = 13x² и x² = 49. Так как длина положительна, x = 7.

Ответ: 7.