Prompts: Diese Dinge solltest du ChatGPT lieber nicht verraten

Künstliche Intelligenz und speziell Chatbots wie ChatGPT haben den Umgang mit Informationen revolutioniert. Sie helfen dabei, komplexe Fragen zu lösen, Texte zu verfassen oder Prozesse zu automatisieren – schnell und unkompliziert. Doch trotz all der Vorteile lauern Risiken, wenn Sie zu viel von sich oder Ihrem Unternehmen preisgeben. Welche Eingaben bei ChatGPT besser tabu sind, warum das so ist und wie Sie Ihre Daten sicher schützen, erfahren Sie in diesem Beitrag.

Geheime Infos, die ChatGPT nicht wissen sollte

Persönliche Daten schützen

Viele Nutzer unterschätzen, welche Daten sie ChatGPT unbewusst anvertrauen. Laut einer Studie von Kaspersky aus dem Jahr 2023 geben rund 45 % der Nutzer sensible persönliche Informationen in KI-Chatbots ein, ohne sich der Risiken bewusst zu sein. Dazu zählen unter anderem Name, Adresse, Telefonnummer oder auch Passwörter – alles Informationen, die im schlimmsten Fall für Identitätsdiebstahl oder Betrug missbraucht werden können.

Wichtig ist: ChatGPT verarbeitet Ihre Eingaben in der Cloud. Dabei können theoretisch auch Dritte Zugriff auf die Daten erhalten. Das bestätigt Prof. Dr. Katharina Zweig, Informatikerin und Expertin für algorithmische Systeme, die ausdrücklich rät, vertrauliche Daten nie in solchen Systemen preiszugeben.

Vertrauliche Geschäftsgeheimnisse vermeiden

Das Risiko betrifft jedoch nicht nur Privates – gerade im Mittelstand und in Unternehmen spielt der Schutz betrieblicher Daten eine immer größere Rolle. Nach einer Bitkom-Umfrage nutzen 38 % der deutschen KMU ChatGPT im Arbeitsalltag, allerdings vermeiden 72 % von ihnen bewusst, sensible Unternehmensdaten in die Prompts einzufügen.

Vertrauliche Informationen wie Kundendaten, Betriebsgeheimnisse, Finanzdaten oder interne Strategien sollten niemals in öffentlich zugängliche KI-Systeme eingegeben werden. Die Gefahr ist groß, dass solche Informationen ungewollt in Trainingsdaten einfließen oder Dritten zugänglich gemacht werden. Praktische Beispiele aus der Industrie verdeutlichen diesen Umgang: So verbietet das Berliner Start-up Merantix AI strikt die Eingabe patientenbezogener Daten in externe KI-Systeme. Auch Siemens nutzt lieber geschützte, lokale KI-Modelle, um keine firmeninternen Konstruktions- oder Produktdaten weiterzugeben.

Risiken bei sensiblen Informationen

Eine Analyse von OpenAI selbst zeigt, dass bis zu 3 % der Eingabedaten potenziell Rückschlüsse auf persönliche oder geschützte Informationen zulassen könnten – trotz der bestehenden Datenschutzrichtlinien. Diese „leichten Schwachstellen“ können durch Unachtsamkeit oder fehlendes Bewusstsein entstehen.

Nutzen Sie also ChatGPT bewusst und mit Vorsicht. Vertrauliche Daten gehören nicht in öffentlich zugängliche KI-Chatfenster. Risiken reichen von Datenlecks über ungewollte Weitergaben bis hin zu Compliance-Verstößen, die gerade für Unternehmen schwerwiegende Folgen haben können.

Warum manche Eingaben riskant für deine Daten sind

Datenverarbeitung bei KI-Modellen

KI-Modelle wie ChatGPT funktionieren, indem sie große Mengen an Textdaten analysieren, um kontextuell passende Antworten zu generieren. Dabei findet die Verarbeitung in der Cloud statt – also auf Servern, die nicht immer direkt vom Nutzer kontrolliert werden können.

Diese Art der Datenverarbeitung führt zu zwei wesentlichen Risiken: Erstens besteht die Möglichkeit, dass Datenfragmente bei der Optimierung oder Speicherung statt in isolierten Umgebungen in Trainingsdaten oder Debugging-Tools auftauchen. Zweitens können so generierte Antworten Unregelmäßigkeiten enthalten, wenn personenbezogene oder geheime Fakten ungewollt verarbeitet werden.

Unbeabsichtigte Weitergabe von Informationen

Dass Nutzer versehentlich Informationen preisgeben, ist keine Seltenheit. Eine Untersuchung der Stanford University (2023) belegt, dass 62 % der Befragten Unternehmen Datenschutzbedenken bei der Nutzung von KI-gestützten Chatdiensten haben – und das mit berechtigtem Grund.

Die Deutsche Bahn hat beispielsweise ihre Mitarbeitenden explizit darin geschult, keine Kundendaten in KI-Systeme einzugeben, um Datenschutzverletzungen zu vermeiden. Ein einziger unbedachter Prompt mit Kundendetails könnte potenziell mehrere hunderttausend Datensätze preisgeben und so großen Schaden anrichten.

Die größte Gefahr: Unwissentlich können sensible Daten über mehrere Plattformen hinweg verteilt und damit für Dritte zugänglich gemacht werden. Je vernetzter und automatisierter die digitale Welt wird, desto höher wird das Risiko, dass vermeintlich harmlose Eingaben Informationen preisgeben, die besser geheim geblieben wären.

Praktische Tipps: So sicherst du deine Prompts ab

Checkliste zur sicheren Eingabe

• Keine persönlichen Daten wie Name, Adresse, Telefonnummer, Geburtsdatum oder Kontoinformationen eingeben.
• Keine Passwörter oder Zugangsdaten in den Chat eingeben – auch nicht in verschlüsselter Form.
• Keine sensiblen Geschäfts- oder Kundendaten übermitteln, selbst wenn die Plattform sicher wirkt.
• Immer vorab Datenschutzrichtlinien lesen und verstehen, wie Ihre Daten verarbeitet werden.
• Interne Lösungen bevorzugen: Nutzen Sie, wenn möglich, KI-Tools, die lokal oder On-Premises laufen, die keine Daten in Cloudserver senden.

Beispielhafter Umgang mit sensiblen Themen

Wenn Sie im beruflichen Kontext ChatGPT verwenden wollen, reformulieren Sie konkrete Sachverhalte so, dass keine Rückschlüsse auf Personen oder andere vertrauliche Daten möglich sind. Statt „Kundin Sabine Müller aus Berlin hat eine Stornierung angefragt“ lieber „Eine Kundin aus Berlin hat eine Stornierung angefragt“. Je allgemeiner, desto sicherer.

Tools zur anonymisierten Kommunikation

Zusätzlich existieren mittlerweile spezialisierte Tools und Plugins, die Eingaben automatisch anonymisieren oder sensible Inhalte filtern, bevor diese an KI-Modelle weitergeleitet werden. Unternehmen sollten solche Lösungen prüfen und in ihre Arbeitsprozesse integrieren, um versehentliches Teilen vertraulicher Inhalte zu vermeiden.

Wie du Fehler im Prompt vermeidest

Fehler beim Prompt-Design entstehen häufig durch mangelnde Aufmerksamkeit oder Unwissenheit. Es empfiehlt sich, Ihre Eingaben vor der Absendung nochmals kritisch zu überprüfen. Schulen Sie Mitarbeiterinnen und Mitarbeiter im Umgang mit KI-Tools, das stärkt das Bewusstsein und verhindert viele typische Fehler.

Dr. Jens Müller, Datenschutzbeauftragter eines mittelständischen Unternehmens, weist darauf hin: „Die Verlockung, komplexe Fragen schnell zu klären, darf nicht dazu führen, dass sensible Informationen preisgegeben werden. Regelmäßige Schulungen sind daher unverzichtbar.“

Grenzen von ChatGPT bei vertraulichen Anfragen

ChatGPT ist ein mächtiges Werkzeug, aber es besitzt klare Grenzen, wenn es um den Schutz von vertraulichen Informationen geht. Aktuelle KI-Modelle sind nicht darauf ausgelegt, garantierten Datenschutz oder absolute Vertraulichkeit zu gewährleisten.

Während Regulierungen wie der Digital Services Act (DSA) auf europäischer Ebene strengere Datenschutzstandards für KI-Systeme fordern, ist es für Nutzer weiterhin von zentraler Bedeutung, selbst verantwortungsvoll mit sensiblen Daten umzugehen.

Die Entwicklung von Closed-Source-Modellen oder On-Premises-Lösungen bietet zwar eine Alternative, ist allerdings meist nur für größere Unternehmen bezahlbar und technisch umsetzbar. Für die Mehrheit der Nutzer stellt sich deshalb die Frage, wie man mit Kompromissen zwischen Komfort und Sicherheit umgeht – die Antwort liegt in kritischem Bewusstsein, bewährten Datenschutzpraktiken und der kontinuierlichen Schulung im Umgang mit KI.

Insgesamt gilt: ChatGPT sollte niemals als sicherer Aufbewahrungsort oder Verarbeitungspunkt für persönliche oder geschäftskritische Daten verstanden werden. Insbesondere in Zeiten der digitalen Transformation hängt der Erfolg eines Unternehmens mit der Professionalität im Datenschutz und der sicheren Nutzung moderner Technologien zusammen.