Zum Inhalt springen
KIplatz ausprobieren

Für Entwickler

KIplatz ist eine KI mit einer Schnittstelle am eigenen PC, im Format von OpenAI. Deine Werkzeuge und Skripte fragen damit dieselbe KI wie das Fenster, mit demselben Wissen und derselben Platzordnung.

Die Schnittstelle im Einzelnen

PunktWert
Adressehttp://127.0.0.1:8470/v1, nur von diesem PC aus erreichbar; aus Docker Desktop am selben PC http://host.docker.internal:8470/v1
Schlüsselbeginnt mit cai-, geschickt als Authorization: Bearer
EndpunkteGET /v1/models und POST /v1/chat/completions mit messages, stream, max_tokens
Grenzen40 Nachrichten, 60 000 Zeichen, 256 kB je Anfrage, höchstens 1 500 Wortstücke als Antwort, keine Bilder
Wer antwortetimmer der eigene PC oder der gekoppelte im Heimnetz, nie die Community

Einschalten und anbinden

  1. Öffne im Programm „Einstellungen“ und links den Reiter „Für Fortgeschrittene“. Dort steht die Karte „Andere Programme dürfen KIplatz fragen“.
  2. Schalte „Programme auf diesem Gerät dürfen KIplatz fragen“ ein.
  3. Klick auf „Schlüssel kopieren“.
  4. Trag in deinem Werkzeug die Basisadresse und den Schlüssel ein. Als Modellname nimmst du unser-modell.

Anleitung mit Beispielen

„Anleitung mit Beispielen“ in derselben Karte zeigt alles noch einmal.

Sofort ungültig

„Neuen Schlüssel machen“ macht den alten sofort ungültig.

Platzordnung und Wissen

Jede Frage geht durch die Platzordnung und bekommt das Wissen der Community und dein eigenes dazu.

Kein Verlauf

Als Gespräch gespeichert wird nichts.

Gut zu wissen

Aus dem Netz ist die Schnittstelle nicht erreichbar, auch nicht aus deinem Heimnetz. Sie gilt nur für Programme auf demselben PC und kostet pro Frage so viele Credits wie eine Frage im Fenster.

Open WebUI und andere Programme in Docker

Ein eigener Schalter

Läuft dein Werkzeug in Docker Desktop auf demselben PC, schaltest du in derselben Karte zusätzlich „Auch Programme in Docker auf diesem PC dürfen fragen“ ein. Der Schalter ist aus, bis du ihn einschaltest.

Die Adresse im Behälter

Im Werkzeug trägst du dann http://host.docker.internal:8470/v1 als Adresse ein, denn 127.0.0.1 meint im Docker-Behälter den Behälter selbst.

Heimnetz bleibt draußen

Der Schlüssel bleibt Pflicht, und Geräte aus dem Heimnetz kommen auch mit diesem Schalter nicht hinein.

Nebenaufträge von Open WebUI

Open WebUI schickt zu jeder Frage 3 Nebenaufträge mit (Titel, Folgefragen, Schlagworte), und jeder kostet Credits. Mit ENABLE_TITLE_GENERATION=False, ENABLE_FOLLOW_UP_GENERATION=False und ENABLE_TAGS_GENERATION=False beim Start fällt das weg.

Ausprobiert mit Docker Desktop unter Windows 11.

Beispiele zum Kopieren

Ersetze cai-DEIN-SCHLUESSEL durch deinen eigenen Schlüssel.

Aus der Eingabeaufforderung, in einer Zeile

curl.exe http://127.0.0.1:8470/v1/chat/completions -H "Authorization: Bearer cai-DEIN-SCHLUESSEL" -H "Content-Type: application/json" -d "{\"model\": \"unser-modell\", \"messages\": [{\"role\": \"user\", \"content\": \"Wie viel ist 3 mal 9,90 Euro?\"}]}"

Aus einem Python-Skript

from openai import OpenAI

client = OpenAI(base_url="http://127.0.0.1:8470/v1", api_key="cai-DEIN-SCHLUESSEL")
antwort = client.chat.completions.create(
    model="unser-modell",
    messages=[{"role": "user", "content": "Fasse diesen Text in 3 Sätzen zusammen: ..."}],
)
print(antwort.choices[0].message.content)

Aus JavaScript, im Browser oder in einem Skript

const r = await fetch("http://127.0.0.1:8470/v1/chat/completions", {
  method: "POST",
  headers: { "Authorization": "Bearer cai-DEIN-SCHLUESSEL", "Content-Type": "application/json" },
  body: JSON.stringify({ model: "unser-modell", messages: [{ role: "user", content: "Was gehört auf eine Honorarnote?" }] }),
});
const daten = await r.json();
console.log(daten.choices[0].message.content);

Mit "stream": true kommen die Wörter einzeln als Server-Sent Events, so wie man es vom Format kennt.

Die Spielwiese

Wer tiefer einsteigen will, meldet sich in der Werkstatt. Dort gibt es eine Übungsumgebung mit Wegwerfdaten, nie die echte Community.

Updates mit Unterschrift

  1. Das Programm vergleicht seine Bau-Nummer mit dem Server und holt bei Bedarf das neue Paket.
  2. Es prüft Prüfsumme und Unterschrift und spielt es nur ein, wenn es wirklich neuer ist.
  3. Dann ersetzt es seinen Ordner, behält den alten einen Start lang und startet neu.

Das Programm kommt fertig gebaut und unterschrieben von kiplatz.at. Jeder Teil hat eine feste Prüfsumme, und der Bau bricht bei der kleinsten Abweichung ab.

Zwischen Gerät und Server

Dein PC meldet sich verschlüsselt und mit eigenem Schlüssel beim Server an. Am Server liegt davon nur ein Prüfwert.

Gut zu wissen

Der Quelltext von Programm und App ist offen (GNU AGPL 3): jede Zeile, die auf deinem PC läuft, kannst du lesen, bauen und verbessern, siehe Quelltext. Das Programm kommt fertig gebaut und unterschrieben von kiplatz.at; was du mit deinem PC sonst noch ausreizen kannst, steht unter Für Technikfans.

Fehler, Ideen und Fragen nimmt die Werkstatt entgegen, siehe Meldung in der Werkstatt. Sicherheitslücken bitte vertraulich, wie unter Sicherheitslücke melden beschrieben.