Bounded Admission
Ein Prinzip, das nur so viele Anfragen zur gleichzeitigen Verarbeitung zulässt, wie das System sicher bewältigt — der Rest wartet geordnet statt abzustürzen.
Bounded Admission (begrenzte Zulassung) bezeichnet die kontrollierte Steuerung, wie viele Anfragen ein Inferenz-Server gleichzeitig annimmt. Statt jede eingehende Anfrage sofort in die Verarbeitung zu lassen, dosiert ein Gateway den Zufluss auf ein Maß, das die Hardware stabil hält.
Der Effekt ist dramatisch: In Quintas Benchmark erreichte das Quinta-Gateway bei 512 gleichzeitigen Anfragen eine 18× höhere Erfolgsquote als vLLM pur — bei identischer Engine. Der Unterschied liegt nicht im Modell, sondern in der Warteschlange. Ohne Zulassungskontrolle kippt ein Server unter Last, weil er sich mit zu vielen parallelen Anfragen selbst blockiert.
Bounded Admission ist damit kein Performance-Trick, sondern eine Frage der Betriebssicherheit: Ein System, das Überlast geordnet dosiert, bleibt vorhersehbar — statt genau dann auszufallen, wenn es am meisten gebraucht wird.