Forscher schlagen einen besseren Weg vor, gefährliche KI-Fehler zu melden

Neue Methoden zur Meldung von KI-Fehlern

Probleme klassischer Fehlermeldungen

Künstliche Intelligenz (KI) durchdringt immer mehr Unternehmensbereiche – von der Produktion über das Kundenmanagement bis hin zu sicherheitskritischen Systemen. Doch trotz dieses Fortschritts stockt die Meldung gefährlicher Fehlfunktionen oft. Eine Studie des Oxford Internet Institute aus dem Jahr 2023 zeigt, dass nur etwa 18 % der KI-Nutzer tatsächlich Fehler oder ethische Verstöße an Entwickler oder Plattformen weitergeben. Dies erschwert nicht nur die Identifikation von Risiken, sondern gefährdet auch die Zuverlässigkeit der eingesetzten KI-Systeme.

Darüber hinaus verfügt laut einer Untersuchung des German Research Center for Artificial Intelligence (DFKI) rund 72 % der deutschen Unternehmen ohne standardisierte Prozesse zur Meldung kritischer KI-Fehler über erhebliche Schwachstellen im Umgang mit KI-Risiken. Die derzeitigen Rückmeldemechanismen sind meist zu bürokratisch, wenig benutzerfreundlich und bieten kaum Schutz für Whistleblower. Dadurch sinkt die Bereitschaft, potenziell gefährliche Fehler transparent zu machen.

Vorschlag der Forscher

Wissenschaftler schlagen deshalb neue, verbesserte Wege zur Fehlermeldung vor. Einer der Schlüssel ist die Entwicklung einfacher, transparenter und geschützter Meldekanäle, die sowohl anonyme als auch automatisierte Meldungen ermöglichen. So betont Prof. Dr. Jana Müller, Leiterin des Instituts für Ethik in der KI an der TU Berlin: „Wir brauchen Meldewege, die das Vertrauen der Nutzerinnen und Entwickler stärken und gleichzeitig die Verantwortung klar regeln.“

Aktuelle Vorschläge umfassen digitale Plattformen, die direkt in KI-Anwendungen eingebettet sind und Fehler in Echtzeit erfassen. Ebenfalls wird ein kooperativer Ansatz empfohlen, bei dem Forschungseinrichtungen, Unternehmen und Regulierer gemeinsam an einheitlichen Standards für die Erfassung und Auswertung arbeiten, um die Verarbeitung von Meldungen zu beschleunigen und zu verbessern.

Technische Umsetzung

Technologisch setzen immer mehr Unternehmen und Startups auf automatisierte Melde-Apps, die Fehlfunktionen anonym erfassen und an zentrale Stellen weiterleiten können. Ein Beispiel dafür ist das Münchner Startup „TrustInSoft“, das speziell Tools entwickelt, um technische und ethische Risiken von KI-Systemen systematisch zu analysieren und zu klassifizieren.

Gleichzeitig pilotieren deutsche Behörden zusammen mit der Europäischen Agentur für Cybersicherheit (ENISA) Frameworks für die standardisierte Meldung von KI-Sicherheitsvorfällen. Diese umfassen sowohl technische Dashboards zur Echtzeitüberwachung als auch rechtliche Meldefenster, um wesentliche Vorgaben der geplanten EU-KI-Verordnung umzusetzen.

Risiken durch fehlerhafte KI-Systeme erkennen

Gefährliche Fehlfunktionen

Fehlerhafte KI-Systeme können erheblichen Schaden anrichten – von fehlerhaften Entscheidungen in der Finanzberatung über Diskriminierung bei Personalentscheidungen bis hin zu sicherheitskritischen Ausfällen bei autonomem Fahren oder industrieller Automatisierung. Laut einer McKinsey-Analyse aus 2023 führt mangelnde Transparenz bei KI-Fehlerberichten zu einem Anstieg potenziell gefährlicher Zwischenfälle um bis zu 30 % in Unternehmen mit hohem Automatisierungsgrad.

Solche Fehlfunktionen sind aber oft schwer zu erkennen oder werden schlicht nicht gemeldet. Die Europäische Kommission stellte 2024 in ihrem Bericht zur KI-Verordnung fest, dass weniger als 10 % der gemeldeten Vorfälle ausreichend analysiert und adressiert wurden. Diese Lücke gefährdet sowohl Unternehmen als auch Endnutzer, da Risiken sich unbemerkt potenzieren können.

Folgen für Unternehmen

Unternehmen, die KI-Systeme einsetzen, laufen ohne effektive Fehlerkommunikation Gefahr, ihrer Sorgfaltspflicht nicht nachzukommen. Die Konsequenten können nicht nur finanzielle Verluste durch Produktionsausfälle oder Rechtsstreitigkeiten sein, sondern auch ein Reputationsverlust bei Kunden und Partnern. Zudem behindert eine schlechte Fehlerkultur die Innovationskraft und das Vertrauen der Belegschaft.

Die DFKI-Studie zeigt, dass vor allem mittelständische Betriebe häufig ohne standardisierte Protokolle arbeiten, was deren Schutz vor KI-Fehlern erheblich schwächt. Daher raten Experten dazu, Fehlermeldungen nicht als Last, sondern als Chance zur Stärkung von Qualität und Sicherheit zu begreifen.

Praxisleitfaden: KI-Fehler sicher melden

Checkliste für Anwender

• Wählen Sie sichere und gegebenenfalls anonyme Kanäle für Ihre Meldungen.
• Beschreiben Sie das Problem möglichst präzise und mit allen relevanten Fakten.
• Nutzen Sie interne Meldeplattformen, wenn vorhanden.
• Halten Sie sich an vorgegebene Formulare oder Protokolle, um eine schnelle Bearbeitung sicherzustellen.
• Berücksichtigen Sie Datenschutz und ethische Aspekte bei der Meldung.

Beispiele aus der Industrie

Die Deutsche Telekom betreibt seit 2023 eine eigene, interne Plattform zur anonymen und automatisierten Fehlermeldung. Mitarbeitende können so unkompliziert Beschwerden und Hinweise einreichen, ohne negative Folgen fürchten zu müssen. Diese Plattform wird als Best Practice für den Mittelstand empfohlen und zeigt, wie technischer Fortschritt mit gutem Management verbunden werden kann.

Auch das Startup „TrustInSoft“ setzt auf Standardisierung und schnelle Analyse, um Meldungen gezielt zu bewerten und dadurch Risiken frühzeitig zu entschärfen. Diese Lösung ist ein Vorbild für Unternehmen, die den Umgang mit KI-Fehlern professionalisieren möchten.

Integration in bestehende Prozesse

Damit Meldungen nicht in der Flut an Informationen untergehen, sollten Unternehmen klare Zuständigkeiten definieren und Abläufe schaffen, die eine zügige Prüfung und Reaktion gewährleisten. Interne Prozesse müssen Meldekanäle mit Monitoring-Tools, Risikobewertung und regelmäßiger Nachverfolgung verbinden. Schulungen für Mitarbeitende helfen, Schwellenängste abzubauen und verbessern das Verständnis für die Bedeutung von Fehlerberichten.

Tipps für effiziente Kommunikation

• Kommunizieren Sie transparente Maßnahmen und Erfolge bei der Fehlerbehebung an alle Beteiligten.
• Ermutigen Sie alle Mitarbeitenden, auch kleinere Auffälligkeiten zu melden.
• Vermeiden Sie Schuldzuweisungen – fördern Sie stattdessen eine Kultur des Lernens und der Zusammenarbeit.
• Nützen Sie digitale Tools und Dashboards, um den Status gemeldeter Vorfälle sichtbar zu machen.
• Kooperieren Sie mit externen Experten und Behörden, um den Umgang mit Risiken kontinuierlich zu verbessern.

Verbesserte KI-Sicherheit durch gezielte Fehlerkommunikation

Eine gezielte, gut organisierte und transparente Fehlerkommunikation ist essenziell für die Sicherheit im Umgang mit KI-Systemen. Sie ermöglicht, potenzielle Risiken rechtzeitig zu erkennen, kritische Vorfälle systematisch zu erfassen und effektive Gegenmaßnahmen einzuleiten. Dies schützt nicht nur Unternehmen vor wirtschaftlichen Schäden, sondern stärkt auch das Vertrauen von Kunden, Mitarbeitenden und Partnern.

In Zeiten einer sich schnell entwickelnden KI-Landschaft brauchen wir standardisierte, benutzerfreundliche Meldewege, die den vielfältigen Anforderungen an Datenschutz, Ethik und Technik gerecht werden. Die geplante EU-KI-Verordnung wird hier eine wichtige Rolle spielen, indem sie Meldepflichten für kritische Vorfälle etabliert und den Weg zu einer einheitlichen Fehlerkultur ebnet.

Nutzen Sie die Erkenntnisse aus aktuellen Studien und Praxisbeispielen, um Ihr Unternehmen fit für die Zukunft zu machen. Mit systematischem Fehlermanagement können Sie die Chancen der KI besser nutzen und gleichzeitig ihre Risiken kontrolliert minimieren.