Glossar · Auch: KI-Gateway, LLM Gateway
AI Gateway
Ein AI Gateway ist die zentrale Anbindung an Sprachmodelle. Es legt fest, welches Modell ein Ablauf nutzen darf, wohin Daten gehen und was protokolliert wird.
01Erklärt
Was dahintersteckt.
Wenn jede Anwendung direkt mit einem Modellanbieter spricht, verlieren Sie den Überblick: Welche Daten gehen wohin? Welches Modell ist erlaubt? Was passiert, wenn ein Anbieter ausfällt?
Ein AI Gateway bündelt diese Verbindungen. Sie legen pro Ablauf fest, welche Modelle erlaubt sind, ob nur europäische Endpunkte genutzt werden oder ein lokales Modell. Ein Wechsel des Modells ist eine Einstellung, kein Umbau.
02Bei LumeSec
So setzen wir es um.
Das AI Gateway der LumeSec AI Platform ist eine eigene Entwicklung. Mit Ihren Daten wird kein Modell trainiert.
03Fragen
Kurz beantwortet.
01Kann ich lokale Modelle nutzen?
Ja. Im Betrieb in Ihrem Rechenzentrum auch ganz ohne Verbindung nach außen.
Ing. Marcus M. Ziegler
Gründer & CEOBirgitz, Tirol--:--
Demo direkt mit Marcus.
30 Minuten an Ihrem Beispiel. Marcus zeigt Ihnen, was die LumeSec AI Platform kann. Danach wissen Sie, was ein Agent bei Ihnen übernimmt.
30 Min · Microsoft Teams · Deutsch oder Englisch
Wir zeigen: die Bilanzanalyse eines Jahresabschlusses bis zum Votum-Entwurf