1. Lass die KI auf deinem eigenen Computer laufen, und das Buch bleibt dort.

    Kommt mit der Desktop-App: Shiros KI kann komplett auf deinem Computer laufen, mit einem mitgelieferten llama.cpp oder über Ollama oder LM Studio. Anfragen bleiben auf 127.0.0.1, du kannst also in einer Hütte mit ausgeschaltetem WLAN schreiben. Der Haken ist die Hardware: Der Katalog reicht von 4 GB bis 64 GB Arbeitsspeicher, und die kleinen Modelle sind schwächer als die großen und deutlich schwächer als die besten gehosteten.

  2. Download

    Nichts startet, bevor du es willst

    Downloads kommen von Hugging Face, lassen sich pausieren und fortsetzen und werden am Ende per Prüfsumme kontrolliert.

  3. Was rausgeht

    Auf diesem Computer geblieben

    Eine lokale Anfrage geht an 127.0.0.1 und kommt zurück. Was Shiro gesendet hat, sagt genau das, klipp und klar.

  4. Hardware

    Was dein Arbeitsspeicher hergibt

    Unsere Grenze fürs Schreiben liegt bei etwa 24 GB. Darunter benennt ein Modell den ganzen Tag Kapitel und fasst zusammen, schreibt aber keine Szene, die du jemandem zeigen würdest.

  5. Schon installiert

    Ollama und LM Studio, gleich mit dabei

    Wenn du eins davon schon nutzt, übernimmt Shiro ihre Modelle, solange sie geöffnet sind. Keine zweite Kopie, kein zweiter Download.

  6. Der Preis

    Worauf du verzichtest

    Unter 32 GB bekommt ein Modell ein festes Kontextpaket: die Projektkarte, bis zu 3 Welt-Einträge und den Text rund um deinen Cursor. Max läuft heute mit keinem lokalen Modell.

Lokale KI ist für alle gebaut, denen Datenschutz wichtig ist

Ein kurzer Brief von Shiro, für alle, die die Nutzungsbedingungen lesen.

Liebe sorgfältige Schreibende,

du willst Hilfe beim Buch. Du willst das Buch nicht auf irgendeinem Server. Du hast die Datenschutzerklärungen gelesen und dir ist das Wort „kann“ aufgefallen. Verständlich. Uns auch.

Also haben wir die KI auf deinen Computer gebracht. Die Desktop-App kommt mit llama.cpp, liest deinen Chip und deinen Arbeitsspeicher aus und empfiehlt ein passendes Modell. Downloads kommen von Hugging Face, und danach geht jede Anfrage an 127.0.0.1 und kommt zurück. Nichts von dir verlässt den Rechner. Ollama oder LM Studio laufen schon? Shiro nutzt auch deren Modelle.

Wir sind auch beim Tausch ehrlich. Unter etwa 24 GB schreibt ein lokales Modell keine Szene, die du irgendwem zeigen würdest, auch wenn es den ganzen Tag Kapitel benennt und zusammenfasst. Noch kann kein lokales Modell Max ausführen. Und du kannst eine Aufgabe auswärts vergeben, während der Rest zu Hause bleibt.

Die leiseste KI ist die, die nie das Zimmer verlässt.

Herzlich, komplett offline,

Shiro

So lässt du KI auf deinem eigenen Computer laufen

Vier Schritte, vom Auspacken zu einem Modell, das offline mit dir schreibt.

  1. Öffne Lokale Modelle. Du, dann Shiro KI, dann Lokale Modelle. Shiro zeigt deinen Chip, deinen Arbeitsspeicher und was passt.

  2. Lade die Empfehlung herunter. Eins zum Schreiben, eins für schnelle Aufgaben. Pausieren, fortsetzen, am Ende wird geprüft.

  3. Mach es zum Schreibmodell. Wähle es für Entwürfe und Überarbeitungen, und behalte für den Rest einen beliebigen Schlüssel.

  4. Probier eine kurze Szene. Die Geschwindigkeit hängt von deinem Rechner ab. Teste, bevor du eine Woche darum herum planst.

Alles, was du unterwegs brauchst

Was bei dir zu Hause läuft und was es braucht, je eine Kachel.

Bring dein eigenes Modell mit

Füg einen Modellnamen oder Link von Hugging Face ein, oder zeig auf eine Datei, die schon auf deiner Festplatte liegt. Das, dem du schon vertraust.

Im Zug ohne Empfang

Ein lokales Projekt mit einem lokalen Modell braucht nie das Netz. Tunnel, Flugzeuge, das Ferienhaus mit einem Balken. Dem Buch ist das egal.

Getestet, nicht versprochen

Ein Browsertest schlägt fehl, wenn die Desktop-App irgendetwas außerhalb von localhost aufruft, während du arbeitest. Du musst uns nicht einfach glauben.

Das beste für Französisch

Mistral Small 4 ist das beste Modell im Katalog für Französisch, wenn du 64 GB übrig hast.

Größer als das Buch

Das 26B-Schreibmodell ist mehr als zwanzigtausendmal so groß wie der Roman, bei dem es hilft. Verhältnismäßigkeit war nie die Stärke der KI.

Eine Aufgabe auswärts, der Rest zu Hause

Modelle werden pro Aufgabe festgelegt. Gib eine Aufgabe an ein gehostetes Modell oder deinen eigenen Schlüssel ab und behalte alles andere auf deinem Rechner.

Kostet nichts pro Wort

Ein lokales Modell kostet nichts pro Anfrage: keine Credits, kein Schlüssel, keine Monatsrechnung. Nur Strom und einen warmen Laptop.

Und noch viel mehr

  • Dein Chip und dein Arbeitsspeicher: Shiro liest sie aus und empfiehlt ein Modell zum Schreiben und eins für schnelle Aufgaben.
  • Pausieren und fortsetzen: Downloads machen dort weiter, wo sie aufgehört haben.
  • Prüfsummen: Jeder Download wird am Ende geprüft.
  • Nichts startet von selbst: kein Download, kein Modell, bis du darum bittest.
  • Agenten ab 32 GB: Größere lokale Modelle lesen mit Werkzeugen weiter ins Buch hinein.
  • Hintergrundlesen bleibt lokal: Szenenfelder füllen läuft standardmäßig nur mit lokalen Modellen.
  • Was Shiro gesendet hat: Bei jeder lokalen Anfrage steht „Auf diesem Computer geblieben“.
  • Oder ganz ohne KI: kostet nichts und hat hervorragenden Datenschutz.

Häufige Fragen

Wie viel Arbeitsspeicher brauche ich für KI zum Schreiben?

Etwa 24 GB für ein Modell, dem wir Entwürfe und Überarbeitungen zutrauen würden. Mit 4 bis 8 GB bekommst du Titel, Tags, Zusammenfassungen und schnelle Unterhaltungen, und Prosa, die du wahrscheinlich nicht behältst. Shiro sieht sich deinen Computer an und empfiehlt, was passt.

Kann ich die Modelle nutzen, die ich schon in Ollama oder LM Studio habe?

Ja. Shiro nutzt sie, solange die App geöffnet ist. Du kannst auch ein Modell von Hugging Face oder eine Datei auf deiner Festplatte hinzufügen.

Funktioniert es offline?

Ja, sobald das Modell auf deinem Computer ist. Der Download ist der einzige Schritt, der eine Verbindung braucht, und er holt nur eine Datei herunter.

Ist ein lokales Modell so gut wie ein gehostetes?

Meist nicht, und kleine Modelle kommen nicht annähernd heran. Lokale Modelle können heute auch den Modus Max nicht ausführen. Im Gegenzug verlässt nichts den Rechner, und bei manchen Büchern ist genau das der Punkt.

Kostet lokale KI etwas?

Nicht bei Shiro, und niemand berechnet etwas pro Wort. Du zahlst mit Speicherplatz, Arbeitsspeicher und Geduld.

Zieh den Router aus der Steckdose. Schreib weiter.