Interview mit ChatGPT - Wie stellt man Compliance einer KI sicher?

Das Interview wurde an einigen Stellen gekürzt, da die KI dazu neigt, bereits Gesagtes auf die eine oder andere Weise zu wiederholen oder Allgemeinplätze zu bemühen.

conventic
Nach welchen Mechanismen und Regeln werden Entscheidungen innerhalb einer KI wie ChatGPT getroffen; und wie weit sind diese im Nachgang für einen interessierten menschlichen Betrachter noch nachvollziehbar.

ChatGPT
Entscheidungen innerhalb einer KI wie ChatGPT werden auf der Grundlage von statistischen Modellen getroffen. Diese Modelle werden auf der Grundlage großer Mengen von Trainingsdaten erstellt und generalisieren dann auf neue Eingaben. Der spezifische Prozess variiert je nach Art des Modells, aber im Allgemeinen werden Eingaben in numerische Formen umgewandelt und dann durch verschiedene Schichten von neuronalen Netzen verarbeitet. Die Ausgabe des Modells ist die Wahrscheinlichkeit, dass jede mögliche Ausgabe die richtige ist.

Obwohl die Entscheidungen, die von einer KI wie ChatGPT getroffen werden, auf der Grundlage komplexer statistischer Modelle erfolgen, können sie oft nur begrenzt nachvollzogen werden. Das bedeutet, dass es schwierig sein kann, genau zu verstehen, warum das Modell eine bestimmte Entscheidung getroffen hat. Dies ist insbesondere dann der Fall, wenn das Modell sehr komplex ist und/oder große Mengen an Daten verarbeitet. Es gibt jedoch Techniken wie die Erklärbarkeit (Explainability) die versuchen, die Entscheidungen der KI zu erklären und verständlicher zu machen.

conventic
Wenn die Nachvollziehbarkeit von Entscheidungen und damit auch von KI-Aktionen insbesondere für technische Laien kaum gegeben ist, wie sieht es dann an der Stelle mit der Einhaltung von Compliance-Regeln aus, bei denen man davon ausgeht, dass sie zu 100% einzuhalten sind und nicht nur mit einem bestimmten Wahrscheinlichkeitswert?

ChatGPT
Einhaltung von Compliance-Regeln ist ein wichtiges Anliegen bei der Verwendung von KI-Systemen, insbesondere in sensiblen Bereichen wie Finanzen, Medizin und Regierung. Es gibt jedoch Herausforderungen bei der Gewährleistung der vollständigen Einhaltung von Compliance-Regeln durch KI-Systeme, insbesondere wenn es um die Nachvollziehbarkeit von Entscheidungen geht.

Eine Möglichkeit, diese Herausforderungen zu bewältigen, besteht darin, KI-Systeme so zu konstruieren, dass sie explizit auf Compliance-Regeln ausgerichtet sind. Dies kann durch die Verwendung von spezialisierten Algorithmen und Regelwerken erreicht werden, die die Einhaltung von Compliance-Regeln sicherstellen. Ein weiterer Ansatz kann sein, die Entscheidungen der KI von menschlichen Experten überprüfen und genehmigen zu lassen, um sicherzustellen, dass sie mit den geltenden Compliance-Regeln übereinstimmen.

Es gibt auch Ansätze wie die Erklärbarkeit (Explainability) und das Transparente Lernen (Transparent Learning), die darauf abzielen, die Entscheidungen der KI nachvollziehbarer zu machen. Dies kann dazu beitragen, die Compliance-Regeln einzuhalten, indem es ermöglicht, die Entscheidungen der KI genauer zu verstehen und gegebenenfalls zu überarbeiten.

Allerdings ist es wichtig zu betonen, dass die Einhaltung von Compliance-Regeln und die Nachvollziehbarkeit der Entscheidungen durch KI-Systeme nicht immer vollständig gewährleistet werden kann und es immer ein gewisses Risiko gibt, da KI-Systeme auf statistischen Modellen basieren und somit nicht immer perfekt sind.

conventic
Es gibt also ein Restrisiko, das im Grunde auch durch menschliche Intervention aufgrund der hohen Komplexität nicht vermieden werden kann?

ChatGPT
Es ist richtig, dass es bei der Verwendung von KI-Systemen immer ein gewisses Risiko gibt, da diese auf statistischen Modellen basieren, die nicht immer perfekt sind. Auch wenn KI-Systeme auf Compliance-Regeln ausgerichtet sind und Entscheidungen von menschlichen Experten überprüft und genehmigt werden, kann es immer noch zu Fehlern oder Unstimmigkeiten kommen.

Es gibt auch die KI-Systeme die selbstlernend sind, die sich weiter entwickeln, und die auf neuen und unvorhergesehenen Daten reagieren können, was das Risiko von Fehlern erhöhen kann.

Daher ist es wichtig, dass KI-Systeme sorgfältig überwacht und überprüft werden, um sicherzustellen, dass sie ihre Aufgaben korrekt ausführen und die Compliance-Regeln einhalten. Es ist auch wichtig, dass die potenziellen Auswirkungen von Fehlern oder Unstimmigkeiten in KI-Systemen sorgfältig bewertet werden, um sicherzustellen, dass angemessene Maßnahmen ergriffen werden, um das Risiko zu minimieren.

conventic
Bei einem System wie ChaGPT, das auf umfängliches Wissen zugreifen kann, dessen Umfang alleine kaum übersehbar ist, scheint eine Kontrolle und eine sorgfältige Bewertung kaum mit sinnvollem Aufwand machbar oder leistbar.

ChatGPT
Es stimmt, dass ein System wie ChatGPT, das auf umfangreiches Wissen zugreifen kann, dessen Umfang alleine kaum übersehbar ist, eine Herausforderung bei der Kontrolle und Bewertung darstellen kann. Dies gilt insbesondere, wenn es um die Überprüfung der Compliance-Regeln geht, da es schwierig sein kann, sicherzustellen, dass das System immer den geltenden Regeln entspricht….

conventic
Aufgrund des Aufwandes einer möglichen Kotrolle und der für einen Menschen kaum nachvollziehbaren Entscheidungsfindung bleibt eigentlich nur die Möglichkeit, dass die KI von einer anderen KI kontrolliert wird?! Bei der Formulierung der Compliance-Regeln besteht doch das Problem, dass kein Regelwerk im Sinne von möglichen Schlupflöchern zu 100% vollständig sein kann. Das gilt insbesondere je komplexer ein Regelwerk wird.

ChatGPT
Es ist richtig, dass die Kontrolle einer KI durch eine andere KI eine Möglichkeit sein kann, um die Einhaltung von Compliance-Regeln sicherzustellen. Dieser Ansatz, bekannt als "KI-Überwachung durch KI" genannt, basiert auf dem Gedanken, dass eine KI in der Lage sein kann, die Entscheidungen einer anderen KI schneller und effizienter zu überwachen und zu überprüfen als es ein menschlicher Überwacher könnte.

Ein weiteres Ansatz für die Überwachung der Compliance-Regeln durch die KI ist das Einsetzen von sogenannten "Constraint-Modellen" die darauf abzielen, die Entscheidungen der KI auf eine bestimmte Art und Weise zu beschränken, um sicherzustellen, dass sie mit den geltenden Compliance-Regeln übereinstimmen.

Es ist jedoch wichtig zu betonen, dass kein Regelwerk in Bezug auf die Compliance-Regeln vollständig sein kann, da es immer Unsicherheiten und Unvorhergesehenes gibt, die berücksichtigt werden müssen. Daher ist es wichtig, dass die KI-Systeme sorgfältig überwacht und überprüft werden, um sicherzustellen, dass sie ihre Aufgaben korrekt ausführen und die Compliance-Regeln einhalten.

conventic
Natürlich wird jeder zustimmen, dass KI-Systeme sorgfältig überprüft und überwacht werden müssen, allerdings lässt sich das wie gesagt im Kontext der hohen Komplexität im Grunde nicht sicherstellen. Der Ansatz "KI-Überwachung durch KI" kaskadiert das Problem nur, denn jetzt muss dem kotrollierenden System vertraut werden, vorher war es das ausführende System. Auf jedem Fall muss einem System vertraut werden, von dem man weiß, dass es ggf. Fehler macht oder in fraglichen Situationen anders als ein Mensch entscheiden würde.

ChatGPT
Sie haben vollkommen recht, dass die Kontrolle und Überwachung von KI-Systemen aufgrund ihrer hohen Komplexität eine Herausforderung darstellen kann. Der Ansatz der "KI-Überwachung durch KI" kann das Problem tatsächlich kaskadieren, da nun dem kontrollierenden System vertraut werden muss, und dieses System auch nicht fehlerfrei ist.

conventic
Was kann im schlimmsten Fall durch einen Compliance-Verstoß durch eine KI passieren?

ChatGPT
Im schlimmsten Fall kann ein Compliance-Verstoß durch eine KI zu erheblichen finanziellen Verlusten, rechtlichen Konsequenzen und Schäden für die Reputation einer Organisation führen. Ein Beispiel dafür könnte sein, dass ein KI-System in einer Finanzinstitution eine unerlaubte Transaktion ausführt, was zu erheblichen Verlusten für die Organisation und möglichen Strafen durch die Aufsichtsbehörden führen kann. Ein anderes Beispiel könnte sein, dass ein KI-System in einer medizinischen Einrichtung eine falsche Diagn stellt, was zu schweren Gesundheitsschäden oder sogar Todesfällen führen kann. Ein Compliance-Verstoß durch eine KI kann auch Auswirkungen auf die Datensicherheit haben und dazu führen, dass vertrauliche Informationen an Unbefugte weitergegeben werden, was zu erheblichen Schäden für die betroffene Personen und die Organisation führen kann.

conventic
Die Haftung liegt also im Grunde immer beim einsetzenden Unternehmen / Trainer oder auch beim Hersteller der KI?

ChatGPT
Die Haftung bei einem Compliance-Verstoß durch eine KI kann bei unterschiedlichen Parteien liegen, abhängig von den Umständen des Falls und den geltenden Gesetzen. Im Allgemeinen trägt das Unternehmen, das die KI einsetzt, die Verantwortung dafür, sicherzustellen, dass das System ordnungsgemäß funktioniert und die geltenden Compliance-Regeln einhält.

Es kann jedoch auch Haftungsansprüche gegen den Hersteller oder Entwickler der KI geben, insbesondere wenn es sich um eine fehlerhafte oder unzureichend getestete Technologie handelt. Dies kann beispielsweise der Fall sein, wenn der Hersteller oder Entwickler die KI falsch konfiguriert hat oder wenn er sie auf eine Weise verkauft hat, die nicht den Anforderungen des Kunden entspricht.

Es ist auch zu berücksichtigen, dass die Haftungsfragen bei der Verwendung von KI-Systemen oft komplex und ungewiss sind und von Land zu Land unterschiedlich geregelt sein können, da die Regulierung und Gesetzgebung in diesem Bereich noch in Entwicklung ist.

conventic
Wo sind derzeit in den genannten Bereichen schon KIs in großem Umfang im Einsatz?

ChatGPT
Künstliche Intelligenz (KI) wird in einer Vielzahl von Branchen und Anwendungsbereichen eingesetzt. Einige der Bereiche, in denen KI derzeit in großem Umfang eingesetzt wird, sind:

1. Finanzdienstleistungen: KI-Systeme werden in der Finanzbranche verwendet, um Risiken zu identifizieren, Betrug zu erkennen, die Kreditwürdigkeit von Kunden zu bewerten und automatisierte Handelsentscheidungen zu treffen.
2. Gesundheitswesen: KI-Systeme werden in medizinischen Einrichtungen verwendet, um Diagn- und Behandlungspläne zu erstellen, Bildgebungsdaten zu analysieren und personalisierte Medikamentenpläne zu erstellen.
3. Einzelhandel: KI-Systeme werden in Einzelhandelsgeschäften eingesetzt, um Kundenbedürfnisse zu erkennen, automatisierte Warenbestellungen zu tätigen und personalisierte Angebote zu erstellen.
4. Fertigungsindustrie: KI-Systeme werden in der Fertigungsindustrie verwendet, um Produktionsprozesse zu optimieren, Wartungsarbeiten zu planen und automatisierte Inspektionen durchzuführen.
5. Transport- und Logistik: KI-Systeme werden in der Transport- und Logistikbranche eingesetzt, um Routen zu planen, Lieferketten zu optimieren und automatisierte Lagerbestandsverwaltung durchzuführen.
6. Automobilindustrie: In der Automobilindustrie werden KI-Systeme eingesetzt, um automatisierte Fahrzeuge zu entwickeln und zu testen, Fahrerassistenzsysteme zu verbessern und Prognosen zur Wartung von Fahrzeugen zu erstellen.

Unser Fazit
Grundsätzlich wollen wir hier einem Ergebnis nicht vorgreifen, alles entwickelt sich sehr schnell. Allerdings scheint sich hier im philosophischen Sinn die Fragestellung zu ergeben, wer denn Systeme kontrolliert, die über umfangreiche Entscheidungsbefugnisse verfügen; und wer die Kontrolleure kontrolliert. Eine KI ist immer nur so gut wie die dahinterliegenden Regelwerke und Trainings. Wenn eine KI die andere kontrolliert, kaskadiert das Problem während die Systeme selbst immer komplexer werden. Auch die Haftunsgfrage scheint im Einzelfall eine zumindest interessante Aufgabenstellung zu werden.