Air-Gapped Computer für KI: So betreiben Sie ein KI-Modell komplett offline

Sie möchten KI für vertrauliche Daten nutzen, etwa Quellcode, Mandantenakten oder Forschungsergebnisse, ohne dass diese Daten jemals einen Cloud-Dienst erreichen? Dann ist ein Air-Gapped Computer die konsequenteste Lösung. Auf einem solchen Rechner laufen KI-Software, Dokumente und Sprachmodell vollständig getrennt von jedem anderen Netzwerk, also ohne Internet.

In diesem Ratgeber erfahren Sie, was „air gapped“ genau bedeutet, welche Hardware Sie brauchen, wie Sie ein KI-Modell offline installieren und aktualisieren und wo die Grenzen dieses Ansatzes liegen.

Was ist ein Air-Gapped Computer?

Der Begriff „Air Gap“ bedeutet wörtlich „Luftspalt“. Ein Air-Gapped Computer hat im normalen Betrieb keine Verbindung zu anderen Systemen, weder per Kabel noch per WLAN oder Mobilfunk. Ethernet, WLAN und Bluetooth sind deaktiviert. Zusätzlich sollten Sie Dockingstationen, Fernwartungsfunktionen und gemeinsam genutzte Speicher prüfen, denn auch darüber können versteckte Verbindungen entstehen.

Ein Air Gap schützt stärker als eine Firewall. Die US-Normungsbehörde NIST beschreibt in ihrer Richtlinie SP 800-209, dass ein strikter Air Gap Systeme sowohl physisch als auch auf Netzwerkebene trennt und bei höherem Risiko auch offene Anschlüsse und Funkverbindungen kontrolliert.

Physische und logische Netzwerktrennung

• Physischer Air Gap: kein Netzwerkkabel, WLAN in der Firmware deaktiviert oder das Funkmodul ausgebaut. Dateien gelangen nur über verschlüsselte Datenträger auf den Rechner.
• Logischer Air Gap: Die Trennung erfolgt über gesperrte Routen, VLANs oder Firewall-Regeln. Das ist schwächer, weil sich Regeln ändern lassen. Nutzen Sie eine logische Trennung deshalb nur als zusätzliche Schutzschicht, nicht als Hauptschutz.

Wer nutzt Air-Gapped Computer?

Typische Anwender sind Entwicklungsabteilungen, Banken und Finanzdienstleister, Kanzleien, Behörden, Produktionsbetriebe und Sicherheitsforscher. Aber auch kleine Teams nutzen das Prinzip, wenn Quellcode, Mandantenunterlagen oder Forschungsdaten an einem kontrollierten Ort bleiben sollen.

Warum KI offline nutzen? Die wichtigsten Einsatzbereiche

Quellcode und geistiges Eigentum schützen

Ein lokales Sprachmodell kann privaten Code durchsuchen, zusammenfassen oder erklären, ohne dass der Code an einen externen Dienst geht.

Recht und Finanzen

Gerichtsakten, Geschäftsunterlagen und Finanzdaten bleiben auf einem kontrollierten Gerät. Das kann helfen, Datenschutzvorgaben umzusetzen. Auch offline brauchen Sie aber klare Regeln für Speicherung, Zugriffsrechte und Wechseldatenträger.

Verteidigung und Behörden

Hier sind getrennte Systeme oft Pflicht. Ein Offline-Modell ist möglich, wenn Software, Daten und Ergebnisse kontrolliert werden. Ein nur scheinbar getrennter Rechner reicht nicht aus. Nötig ist eine formelle, schriftliche Freigabe.

Penetrationstests

Werkzeuge, Notizen und Beweismittel lassen sich auf einem getrennten System aufbewahren. Für unbekannte oder verdächtige Dateien brauchen Sie trotzdem ein richtiges Malware-Labor. Ein Rechner ohne Internet ist nicht automatisch sicher für fremden Code.

Air-Gapped, selbst gehostet oder On-Premise: der Unterschied

„Lokal“ beschreibt nur, wo das Modell läuft. Ob der Rechner mit einem Netzwerk verbunden ist, sagt der Begriff nicht.

Wenn Sie KI zunächst einfach lokal ausprobieren möchten, ohne vollständige Trennung, hilft Ihnen unsere Anleitung Lokale KI installieren.

Hardware-Checkliste für einen Air-Gapped KI-Rechner

Grafikspeicher, Arbeitsspeicher und schnelle NVMe-SSD

Richten Sie die Hardware nach Ihren Aufgaben aus. Kleinere, quantisierte Textmodelle laufen auf einem leistungsfähigen Prozessor oder einer Grafikeinheit mit ausreichend Speicher. Größere Modelle, Bildgenerierung und Dauerlast brauchen mehr Grafikspeicher oder gemeinsamen Speicher (Unified Memory), mehr Arbeitsspeicher und eine gute Kühlung. Das Modell muss vollständig in den Speicher passen und Reserve für Betriebssystem und Kontext lassen.

Wie viel Speicher Sie für welches Modell brauchen, zeigt unser Ratgeber Die besten Mini PCs, um LLMs lokal zu betreiben. Ein Praxisbeispiel: Auf dem GEEKOM A9 Mega mit 128 GB gemeinsamem Speicher läuft sogar ein Offline-LLM mit über 100 GB auf einem einzigen Gerät.

Eine schnelle NVMe-SSD speichert Modelle, Installationsdateien, Pakete, Dokumente und Sicherungskopien. Planen Sie Platz für eine saubere Grundinstallation, die freigegebenen Modelle und eine Kopie für die Wiederherstellung ein. Verschlüsseln Sie das Laufwerk und bewahren Sie die Wiederherstellungsschlüssel getrennt auf.

Tipp: Testen Sie Hardware, Treiber und KI-Bibliotheken, solange der Rechner noch verbunden ist. Sammeln Sie in dieser Vorbereitungsphase alle Installationsdateien, Treiber und Pakete und notieren Sie die funktionierenden Versionen.

WLAN, Bluetooth und Ethernet deaktivieren oder entfernen

• Ziehen Sie das Netzwerkkabel und deaktivieren Sie WLAN und Bluetooth in der Firmware (BIOS/UEFI).
• Bauen Sie zusätzliche Funkmodule aus, wenn das möglich ist.
• Prüfen Sie auf Mobilfunkmodule, USB-Netzwerkadapter, Dockingstationen und Fernzugriffsfunktionen.
• Sperren Sie Netzwerkverbindungen zusätzlich im Betriebssystem und kontrollieren Sie den Zustand bei jedem Update erneut.

KI ohne Internet einrichten: Schritt für Schritt

Schritt 1: Alles auf einem Kurier-Rechner vorbereiten

Laden Sie Betriebssystem-Image, Treiber, KI-Software, Modelle und Abhängigkeiten auf einem separaten, verbundenen Computer herunter. Notieren Sie Versionen, Lizenzen und Veröffentlichungsdaten. Nutzen Sie, wo möglich, signierte Versionen oder offizielle Prüfsummen der Anbieter. Prüfsummen erstellen Sie unter Linux oder macOS zum Beispiel so:

sha256sum model.gguf > model.gguf.sha256

Schritt 2: Dateien über verschlüsselte Datenträger übertragen

Verwenden Sie wenige, saubere und firmeneigene verschlüsselte Laufwerke. Private Dateien haben darauf nichts zu suchen. Nutzen Sie einen Schreibschutz, wo es sinnvoll ist, und scannen Sie die Laufwerke auf dem Kurier-Rechner. Die NIST-Richtlinie SP 1334 empfiehlt für Wechseldatenträger Freigaben, Bestandslisten, Verschlüsselung, Virenscans und die Kontrolle der Prüfsummen. In Deutschland behandelt das IT-Grundschutz-Kompendium des BSI Wechseldatenträger in einem eigenen Baustein.

Deaktivieren Sie den Autostart und bewahren Sie die Datenträger danach sicher auf. Warum das wichtig ist, beschreibt MITRE ATT&CK T1092: Angreifer nutzen Wechseldatenträger gezielt, um Dateien und Befehle zwischen getrennten Netzwerken zu bewegen.

Schritt 3: Prüfsummen auf dem Air-Gapped-Rechner kontrollieren

Prüfen Sie jede Datei auf dem getrennten Rechner:

sha256sum -c model.gguf.sha256

Protokollieren Sie Ergebnis, Datum, Bearbeiter und die Kennung des Datenträgers. Dateien, die die Prüfung nicht bestehen, importieren Sie nicht.

Schritt 4: Das KI-Modell offline mit Ollama und Modelfile starten

Ollama kann ein Modell aus einer lokalen GGUF-Datei laden, ganz ohne Download. Legen Sie dazu eine Datei namens Modelfile an, die auf die GGUF-Datei verweist:

FROM ./model.gguf

Erstellen und starten Sie das Modell anschließend mit:

ollama create offline-model -f Modelfile
ollama run offline-model

Laut der Import-Anleitung von Ollama sollte die Modelldatei bereits quantisiert sein. Sie lässt sich dann vollständig lokal importieren.

Schritt 5: Testen, dass keine Daten den Rechner verlassen

Kontrollieren Sie, ob alle Netzwerkhardware ausgeschaltet ist und die Netzwerkeinstellungen des Betriebssystems stimmen. Datenverkehr über die Loopback-Schnittstelle (localhost) bleibt auf dem Rechner. Wenn das Modell einen Netzwerkdienst startet, binden Sie ihn nur an den lokalen Rechner. Prüfen Sie nach einiger Zeit im normalen Betrieb die Protokolle auf unerwartete Verbindungsversuche. Bewahren Sie die Softwareliste, die Installationsdokumentation und das Prüfprotokoll auf.

Modelle auf einem Air-Gapped-Rechner aktualisieren

Behandeln Sie jedes Update als kontrollierte Änderung:

1. Bedarf klären: Muss das Modell, die KI-Software, der Treiber, das Betriebssystem oder ein Zertifikatspaket aktualisiert werden?
2. Dateien prüfen: Prüfsummen oder Signaturen des Anbieters kontrollieren und die Datenträger scannen. Übertragen Sie nur freigegebene Dateien.
3. Sicherung anlegen: Erstellen Sie vor jeder Änderung eine Kopie für die Wiederherstellung.
4. Schrittweise vorgehen: Ändern Sie immer nur eine Komponente, prüfen Sie erneut und führen Sie einen kurzen Abnahmetest mit bekannten Fragen durch.
5. Bei Fehlern zurück: Schlägt ein Update fehl, kehren Sie zur letzten freigegebenen Version zurück, statt Alternativen aus dem Internet zu holen.
6. Dokumentieren: Datum, Bearbeiter, Datenträger-Kennung, Prüfsumme, freigegebene Quelle, Testergebnis und Lizenzänderungen festhalten.

Kann man einen Air-Gapped Computer hacken?

Ja. Ein Air Gap verringert die Angriffsfläche aus der Ferne deutlich. Die verbleibenden Brücken sind aber Angriffswege: USB-Datenträger, Installationsdateien, Firmware, Laptops von Dienstleistern, Dockingstationen und direkter Zugang zum Gerät. Gefälschte Updates können genau auf demselben Weg ankommen wie echte.

In Hochsicherheitsumgebungen spielen zusätzlich Seitenkanäle eine Rolle, also Datenübertragung über Funk, Geräusche, Licht, Wärme oder Stromverbrauch. Laut NIST kann es in besonders schützenswerten Bereichen nötig sein, auch solche Wege zu begrenzen. Für die meisten kleinen Teams ist das aber kaum relevant.

Empfohlene Schutzmaßnahmen:

Genauso wichtig bleiben Integritätsprüfungen und sorgfältige Mitarbeitende.

Fazit: Planen Sie die Trennung, bevor Sie sie brauchen

Ein Air-Gapped Computer für KI funktioniert zuverlässig, wenn Sie Prozessor, Grafik, Speicher und SSD passend planen, alle regulären Netzwerkwege abschalten und Downloads, Updates und Datenträger konsequent über einen Kurier-Rechner abwickeln. Für einen kompakten Offline-Arbeitsplatz auf dem Schreibtisch eignen sich GEEKOM Mini PCs, für große Sprachmodelle besonders Geräte mit viel gemeinsamem Speicher.

FAQ