Für Entwickler
KIplatz ist eine KI mit einer Schnittstelle am eigenen PC, im Format von OpenAI. Deine Werkzeuge und Skripte fragen damit dieselbe KI wie das Fenster, mit demselben Wissen und derselben Platzordnung.
Die Schnittstelle im Einzelnen
| Punkt | Wert |
|---|---|
| Adresse | http://127.0.0.1:8470/v1, nur von diesem PC aus erreichbar; aus Docker Desktop am selben PC http://host.docker.internal:8470/v1 |
| Schlüssel | beginnt mit cai-, geschickt als Authorization: Bearer |
| Endpunkte | GET /v1/models und POST /v1/chat/completions mit messages, stream, max_tokens |
| Grenzen | 40 Nachrichten, 60 000 Zeichen, 256 kB je Anfrage, höchstens 1 500 Wortstücke als Antwort, keine Bilder |
| Wer antwortet | immer der eigene PC oder der gekoppelte im Heimnetz, nie die Community |
Einschalten und anbinden
- Öffne im Programm „Einstellungen“ und links den Reiter „Für Fortgeschrittene“. Dort steht die Karte „Andere Programme dürfen KIplatz fragen“.
- Schalte „Programme auf diesem Gerät dürfen KIplatz fragen“ ein.
- Klick auf „Schlüssel kopieren“.
- Trag in deinem Werkzeug die Basisadresse und den Schlüssel ein. Als Modellname nimmst du
unser-modell.
Anleitung mit Beispielen
„Anleitung mit Beispielen“ in derselben Karte zeigt alles noch einmal.
Sofort ungültig
„Neuen Schlüssel machen“ macht den alten sofort ungültig.
Platzordnung und Wissen
Jede Frage geht durch die Platzordnung und bekommt das Wissen der Community und dein eigenes dazu.
Kein Verlauf
Als Gespräch gespeichert wird nichts.
Gut zu wissen
Aus dem Netz ist die Schnittstelle nicht erreichbar, auch nicht aus deinem Heimnetz. Sie gilt nur für Programme auf demselben PC und kostet pro Frage so viele Credits wie eine Frage im Fenster.
Open WebUI und andere Programme in Docker
Ein eigener Schalter
Läuft dein Werkzeug in Docker Desktop auf demselben PC, schaltest du in derselben Karte zusätzlich „Auch Programme in Docker auf diesem PC dürfen fragen“ ein. Der Schalter ist aus, bis du ihn einschaltest.
Die Adresse im Behälter
Im Werkzeug trägst du dann http://host.docker.internal:8470/v1 als Adresse ein, denn 127.0.0.1 meint im Docker-Behälter den Behälter selbst.
Heimnetz bleibt draußen
Der Schlüssel bleibt Pflicht, und Geräte aus dem Heimnetz kommen auch mit diesem Schalter nicht hinein.
Nebenaufträge von Open WebUI
Open WebUI schickt zu jeder Frage 3 Nebenaufträge mit (Titel, Folgefragen, Schlagworte), und jeder kostet Credits. Mit ENABLE_TITLE_GENERATION=False, ENABLE_FOLLOW_UP_GENERATION=False und ENABLE_TAGS_GENERATION=False beim Start fällt das weg.
Ausprobiert mit Docker Desktop unter Windows 11.
Beispiele zum Kopieren
Ersetze cai-DEIN-SCHLUESSEL durch deinen eigenen Schlüssel.
Aus der Eingabeaufforderung, in einer Zeile
curl.exe http://127.0.0.1:8470/v1/chat/completions -H "Authorization: Bearer cai-DEIN-SCHLUESSEL" -H "Content-Type: application/json" -d "{\"model\": \"unser-modell\", \"messages\": [{\"role\": \"user\", \"content\": \"Wie viel ist 3 mal 9,90 Euro?\"}]}"
Aus einem Python-Skript
from openai import OpenAI
client = OpenAI(base_url="http://127.0.0.1:8470/v1", api_key="cai-DEIN-SCHLUESSEL")
antwort = client.chat.completions.create(
model="unser-modell",
messages=[{"role": "user", "content": "Fasse diesen Text in 3 Sätzen zusammen: ..."}],
)
print(antwort.choices[0].message.content)
Aus JavaScript, im Browser oder in einem Skript
const r = await fetch("http://127.0.0.1:8470/v1/chat/completions", {
method: "POST",
headers: { "Authorization": "Bearer cai-DEIN-SCHLUESSEL", "Content-Type": "application/json" },
body: JSON.stringify({ model: "unser-modell", messages: [{ role: "user", content: "Was gehört auf eine Honorarnote?" }] }),
});
const daten = await r.json();
console.log(daten.choices[0].message.content);
Mit "stream": true kommen die Wörter einzeln als Server-Sent Events, so wie man es vom Format kennt.
Die Spielwiese
Wer tiefer einsteigen will, meldet sich in der Werkstatt. Dort gibt es eine Übungsumgebung mit Wegwerfdaten, nie die echte Community.
Updates mit Unterschrift
- Das Programm vergleicht seine Bau-Nummer mit dem Server und holt bei Bedarf das neue Paket.
- Es prüft Prüfsumme und Unterschrift und spielt es nur ein, wenn es wirklich neuer ist.
- Dann ersetzt es seinen Ordner, behält den alten einen Start lang und startet neu.
Das Programm kommt fertig gebaut und unterschrieben von kiplatz.at. Jeder Teil hat eine feste Prüfsumme, und der Bau bricht bei der kleinsten Abweichung ab.
Zwischen Gerät und Server
Dein PC meldet sich verschlüsselt und mit eigenem Schlüssel beim Server an. Am Server liegt davon nur ein Prüfwert.
Gut zu wissen
Der Quelltext von Programm und App ist offen (GNU AGPL 3): jede Zeile, die auf deinem PC läuft, kannst du lesen, bauen und verbessern, siehe Quelltext. Das Programm kommt fertig gebaut und unterschrieben von kiplatz.at; was du mit deinem PC sonst noch ausreizen kannst, steht unter Für Technikfans.
Fehler, Ideen und Fragen nimmt die Werkstatt entgegen, siehe Meldung in der Werkstatt. Sicherheitslücken bitte vertraulich, wie unter Sicherheitslücke melden beschrieben.
