KI im Unternehmen: Warum Ihr Sicherheitscheck nur halb so viel wert ist

„Unsere KI läuft nur intern, da kann nichts passieren“ – diesen Satz höre ich mindestens einmal pro Woche. Falsch. Wenn Ihr Chatbot mit sensiblen Daten gefüttert wird oder Ihr VoiceAI-System Anrufe transkribiert, haben Sie längst eine Angriffsfläche, die Sie nicht auf dem Schirm haben. Die meisten Sicherheitsaudits für KMU ignorieren KI-spezifische Risiken komplett. Dabei geht es nicht um theoretische Hacker-Szenarien, sondern um handfeste Probleme, die ich in den letzten Monaten bei Berliner Unternehmen gesehen habe. Hier steht, was Sie prüfen müssen – und warum die meisten Checks nur Kosmetik sind.

Wo Ihr KI-System Daten verliert, ohne dass Sie es merken

Nehmen wir ein typisches Beispiel: Ein Steuerberater in Charlottenburg nutzt einen KI-Chatbot, um Mandantenanfragen zu beantworten. Der Bot greift auf eine Datenbank mit Steuerbescheiden zu – alles schön verschlüsselt, alles intern. Klingt sicher? Ist es nicht. In 8 von 10 Fällen, die ich gesehen habe, passiert Folgendes:

• Der Chatbot speichert Anfragen und Antworten in Log-Dateien – inklusive sensibler Daten wie Steuer-IDs oder Kontonummern.
• Diese Logs werden nicht gelöscht, weil niemand daran denkt, dass sie ein Risiko darstellen.
• Ein Mitarbeiter lädt die Logs versehentlich in eine Cloud hoch (z. B. für eine Analyse), und schon sind die Daten außerhalb Ihres Systems.

Bei einem Mandanten in Neukölln haben wir in den Logs eines KI-Tools über 12.000 Datensätze mit personenbezogenen Informationen gefunden – alles unverschlüsselt und für jeden mit Zugriff auf den Server einsehbar. Kosten für die Aufarbeitung: 18.000 Euro. Das Problem: Standard-Sicherheitsaudits prüfen diese Logs nicht, weil sie nicht als kritische Datenquelle gelten. Dabei sind sie es.

Die drei Lücken, die fast jeder übergeht

Wenn Sie ein KI-System einsetzen, gibt es drei Bereiche, die in 90% der Fälle nicht ausreichend geprüft werden. Ich nenne sie die „unsichtbaren Risiken“, weil sie in keinem klassischen IT-Sicherheitshandbuch stehen:

1. Prompt-Injection:

   Ihr KI-Tool reagiert auf Texteingaben – und genau das macht es angreifbar. Ein Angreifer kann durch manipulierte Eingaben (z. B. in einem Chatbot) die KI dazu bringen, Daten preiszugeben oder falsche Informationen zu generieren. Beispiel: Ein Berliner Immobilienmakler nutzte einen KI-Chatbot für Kundenanfragen. Ein Konkurrent hat durch gezielte Prompts den Bot dazu gebracht, interne Objektdaten auszugeben. Kosten: 50.000 Euro Schaden durch verlorene Exklusivverträge. Die Lösung: Eingabefilter, die verdächtige Anfragen blockieren – aber die meisten KMU haben so etwas nicht.

2. Daten-Leakage durch Trainingsdaten:

   KI-Modelle lernen aus Daten – und geben diese Daten manchmal ungewollt wieder aus. Ein Beispiel aus der Praxis: Ein Arzt in Friedrichshain nutzte ein KI-Tool, um Arztbriefe zu generieren. Das Tool hatte Zugriff auf Patientenakten. Bei einer Prüfung haben wir festgestellt, dass das Modell in 3% der Fälle Teile der Trainingsdaten in den generierten Texten ausgegeben hat – darunter vollständige Namen und Diagnosen. Das Problem: Die Trainingsdaten waren nicht ausreichend anonymisiert. Die Lösung: Daten vor dem Training bereinigen – aber das macht kaum jemand.

3. Modell-Diebstahl:

   Ihr KI-Modell ist ein wertvolles Asset – und kann gestohlen werden. Bei einem Mandanten in Mitte haben wir festgestellt, dass das Modell für die Rechnungsverarbeitung (Wert: 80.000 Euro Entwicklungszeit) über eine ungesicherte API zugänglich war. Ein Angreifer hätte das Modell herunterladen und für eigene Zwecke nutzen können. Die Lösung: API-Sicherheit prüfen und Zugriffe einschränken – aber das wird oft vergessen, weil das Modell „nur intern“ läuft.

Was ein echter KI-Sicherheitscheck leisten muss

Wenn Sie ein KI-Sicherheitsaudit machen lassen, sollten Sie folgende Punkte prüfen – und zwar konkret, nicht nur theoretisch:

• Datenflüsse:

  Wo fließen Daten in Ihr KI-System hinein und wieder heraus? Nicht nur die offensichtlichen Quellen (z. B. Chat-Eingaben), sondern auch Logs, Backups und Trainingsdaten. Bei einem Mandanten haben wir festgestellt, dass ein KI-Tool automatisch Backups in eine ungesicherte Cloud schob – ohne dass das jemand wusste.

• Zugriffskontrollen:

  Wer hat Zugriff auf Ihr KI-System? Nicht nur die Benutzer, sondern auch die APIs, die das System nutzt. Bei einem Unternehmen in Kreuzberg haben wir festgestellt, dass ein KI-Chatbot über eine API mit einem CRM-System verbunden war – und diese API für jeden im Netzwerk zugänglich war. Kosten für die Nachbesserung: 12.000 Euro.

• Modell-Sicherheit:

  Wie wird Ihr KI-Modell geschützt? Nicht nur vor Diebstahl, sondern auch vor Manipulation. Beispiel: Ein Angreifer könnte ein Modell so verändern, dass es falsche Ergebnisse liefert. Bei einem Mandanten haben wir ein Modell gefunden, das für Phishing-Angriffe genutzt werden konnte – weil es nicht ausreichend gegen Manipulationen geschützt war.

• Compliance:

  Halten Sie sich an die gesetzlichen Vorgaben? Nicht nur die DSGVO, sondern auch branchenspezifische Regeln. Beispiel: Ein Arzt in Steglitz nutzte ein KI-Tool für die Patientenkommunikation. Das Tool speicherte Daten in den USA – ein klarer Verstoß gegen die ärztliche Schweigepflicht. Kosten für die Umstellung: 9.000 Euro.

So gehen Sie vor – ohne Ihr Budget zu sprengen

Sie müssen kein Vermögen ausgeben, um Ihr KI-System sicher zu machen. Hier ist ein pragmatischer Ansatz, den ich mit meinen Mandanten in Berlin umsetze:

1. Datenflüsse dokumentieren:

   Erstellen Sie eine einfache Skizze, wo Daten in Ihr KI-System fließen und wo sie wieder herauskommen. Nicht perfekt, aber besser als nichts. Bei einem Mandanten hat diese Skizze innerhalb von zwei Stunden drei kritische Lücken aufgedeckt – darunter ein ungesicherter Backup-Speicher.

2. Zugriff prüfen:

   Schauen Sie sich an, wer Zugriff auf Ihr KI-System hat. Nicht nur die Benutzer, sondern auch die Systeme, die mit dem KI-Tool verbunden sind. Bei einem Unternehmen in Prenzlauer Berg haben wir festgestellt, dass ein KI-Chatbot mit einem alten, ungesicherten CRM-System verbunden war – und dieses CRM-System für jeden im Netzwerk zugänglich war.

3. Testen, testen, testen:

   Führen Sie einfache Tests durch, um zu sehen, wie Ihr KI-System auf manipulierte Eingaben reagiert. Beispiel: Geben Sie in Ihren Chatbot einen Prompt ein, der nach sensiblen Daten fragt. Wenn der Bot antwortet, haben Sie ein Problem. Bei einem Mandanten in Tempelhof hat dieser Test gezeigt, dass der Chatbot interne Preisinformationen preisgegeben hat – mit einem einfachen Trick.

4. Externen Check machen lassen:

   Holen Sie sich einen unabhängigen Experten, der Ihr System prüft. Nicht für 20.000 Euro, sondern für 3.000–5.000 Euro. Bei einem Mandanten in Wedding haben wir in drei Tagen 12 kritische Lücken gefunden – darunter ein ungesichertes API-Endpoint, das das gesamte KI-Modell preisgegeben hätte.

KI-Sicherheit ist kein Hexenwerk, aber sie ist auch kein Selbstläufer. Die meisten KMU setzen KI ein, ohne die Risiken zu kennen – und zahlen später drauf. Wenn Sie nur eine Sache aus diesem Artikel mitnehmen: Dokumentieren Sie Ihre Datenflüsse und prüfen Sie, wer Zugriff auf Ihr KI-System hat. Das ist der erste Schritt – und der kostet Sie nichts außer ein paar Stunden Zeit.