Похоже полиномиальные системы уравнений (порядка 4 и выше) втупую solve'ом туго решаются. Но стоит сделать небольшое упрощение, снижающее степень полиномов, и аналитическое решение готово. Однако нужно обобщать.