bifrost

La puerta de enlace de IA empresarial más rápida (50 veces más rápida que LiteLLM) con equilibrador de carga adaptativo, modo de clúster, barreras de seguridad, compatibilidad con más de 1000 modelos y una sobrecarga de <100 µs a 5k RPS.