KI im eigenen Betrieb – ohne dass deine Daten die Schweiz verlassen
Lokale KI-Modelle laufen auf deinem eigenen Rechner. Was das für Schweizer KMU und den Datenschutz bedeutet – und wo die Grenzen liegen.
KI kann im Alltag viel abnehmen. Offerten zusammenfassen, E-Mails entwerfen, lange Protokolle auf das Wesentliche kürzen. Der Haken: Wer ChatGPT oder ein anderes Cloud-Tool nutzt, tippt seine Daten auf fremde Server. Bei Kundendaten, Offerten oder Verträgen ist das ein Problem.
Es gibt einen anderen Weg. Das Modell läuft auf deinem eigenen Rechner. Deine Daten bleiben im Haus. Diesen Weg schauen wir uns hier an – ehrlich, mit Nutzen und Grenzen.
Was heisst «lokale KI» überhaupt?
Ein Sprachmodell ist eine Datei. Gross, aber eine Datei. Statt sie in einer Cloud zu betreiben, lädst du sie einmal herunter und startest sie auf deinem Computer.
Ab dann läuft alles offline. Du stellst eine Frage, das Modell antwortet – und kein einziges Wort verlässt deinen Rechner. Keine Anmeldung, kein Abo, keine Datenübertragung.
Was kann das – und was nicht?
Realistisch bleiben lohnt sich. Ein lokales Modell ist kein Alleskönner. Aber für viele Betriebsaufgaben reicht es gut.
Das geht zuverlässig:
- Texte zusammenfassen und umformulieren
- E-Mails und Offerten entwerfen
- Fragen zu deinen eigenen Dokumenten beantworten
- Stichworte zu fertigen Texten machen
Das geht weniger gut: ein lokales Modell auf einem normalen Bürorechner erreicht nicht das Niveau der grössten Cloud-Modelle. Wie schnell und wie gut es arbeitet, hängt direkt an deiner Hardware. Ein aktueller Laptop schafft erstaunlich viel. Für grosse Modelle braucht es einen kräftigen Rechner.
Warum das für Schweizer KMU zählt
Du arbeitest mit Daten, die dir nicht gehören. Kundenadressen, Baupläne, Offerten, manchmal Gesundheits- oder Personaldaten. Dafür trägst du Verantwortung.
Dazu kommt das Vertrauen deiner Kunden. «Eure Daten verlassen unseren Betrieb nicht» ist ein starkes Argument. Lokale KI macht aus diesem Satz keine Marketingaussage, sondern technische Realität.
Wie der Einstieg aussieht
Der erste Schritt ist kleiner, als du denkst. Du installierst ein Programm, lädst ein Modell und stellst die erste Frage. In zwanzig Minuten läuft das.
Wie das konkret geht – mit zwei kostenlosen Werkzeugen, eines mit Fenster, eines fürs Terminal – zeigen wir Schritt für Schritt in der Werkstatt: Lokales LLM in 20 Minuten einrichten.
Häufige Fragen
- Ist lokale KI DSG-konform?
- Ja. Läuft das Modell auf deinem eigenen Rechner, verlassen keine Daten den Betrieb. Damit beantwortest du die Frage «Wo sind meine Daten?» am saubersten – sie bleiben bei dir.
- Was kostet lokale KI?
- Die Programme Ollama und LM Studio sind kostenlos. Du brauchst nur einen genügend starken Rechner. Es fallen keine Abo- oder Cloud-Gebühren an.
- Ist ein lokales Modell so gut wie ChatGPT?
- Nicht ganz – die grössten Cloud-Modelle sind stärker. Für Aufgaben wie Texte zusammenfassen, E-Mails entwerfen oder Dokumente durchsuchen reicht ein lokales Modell aber gut.
- Welche Hardware brauche ich für lokale KI?
- Ein aktueller Rechner genügt für kleine Modelle. Richtig schnell wird es mit einer Nvidia-Grafikkarte; ohne läuft es im Arbeitsspeicher, einfach langsamer.