Ответ:

Правая часть системы уравнений размыта и не позволяет достоверно восстановить коэффициенты и свободные члены. Переснимите задание крупнее.