LLM Proxy

Die Universität Potsdam stellt Universitätsangehörigen einen LLM Proxy zur Verfügung. Über diesen können API-Keys beantragt und damit verschiedene KI-Modelle über eine zentrale Schnittstelle genutzt werden.

Der Dienst richtet sich vor allem an Personen, die KI-Modelle per API in Anwendungen, Skripten, Entwicklungsumgebungen oder automatisierten Workflows einsetzen möchten.

Der LLM Proxy ist eine zentrale technische Schnittstelle zur Nutzung verschiedener großer Sprachmodelle und Modelle zur Bildgenerierung. Dadurch können unterschiedliche Modelle über einen einheitlichen Zugang angesprochen werden, ohne für jedes Modell einen eigenen externen API-Zugang einzurichten. Der LLM Proxy basiert auf https://docs.litellm.ai/, dessen API Sie zur Nutzung der Modelle nutzen.

Die aktuell verfügbaren Modelle umfassen leistungsfähige Modelle zur Textgenerierung (z.B. GPT-5 und Claude Opus 4.6) und Bildgenerierung (GPT Image 1.5).

Für die Nutzung des LLM Proxy benötigen Sie einen persönlichen API-Key. Die Beantragung und Verwaltung erfolgt über Account.UP.

Bitte behandeln Sie Ihren API-Key wie ein Passwort. Geben Sie ihn nicht weiter und speichern Sie ihn nicht in öffentlich zugänglichen Dateien, Skripten, Tickets oder Chatverläufen.

Vor der Nutzung des LLM Proxy sind die geltenden Nutzungsbedingungen, Datenschutzvorgaben und Hinweise zum EU AI Act zu beachten. Diese Hinweise finden Sie in Account.UP sowie im Leitfaden zur Nutzung.

Bitte prüfen Sie vor der Verarbeitung von Daten, ob deren Nutzung über den LLM Proxy zulässig ist. Modellantworten können fehlerhaft oder unvollständig sein und müssen fachlich überprüft werden.

Hinweise zur Einrichtung, zu verfügbaren Endpoints, Beispielaufrufen und Einschränkungen finden Sie auf der Seite „LLM Proxy Nutzungshinweise“.