OpenAI meldet Goldman-Sachs-Analyst wegen ChatGPT-Chats ans FBI
TL;DR
OpenAI hat laut Futurism einen Analysten von Goldman Sachs beim FBI gemeldet, nachdem dessen Konversationen mit ChatGPT als verstörend eingestuft wurden. Der Bericht trägt eine Inhaltswarnung und beschreibt einen Fall, in dem ein AI-Anbieter Chatverläufe an Strafverfolgungsbehörden weitergibt. Details zum Inhalt der Chats und zum weiteren Verfahren nennt die Meldung in dieser Form nicht.
Nauti's Take
Positiv ist, dass hier offenbar ein Meldeweg funktioniert hat: Wenn Chats auf konkrete Gefahr hindeuten, ist die Weitergabe an Behörden nachvollziehbar. Das Risiko liegt in der Kehrseite, denn Nutzer erfahren selten, ab welcher Schwelle ihre Verläufe gelesen und weitergereicht werden.
Wer ChatGPT beruflich einsetzt, sollte davon ausgehen, dass Eingaben überprüfbar sind, und sensible Inhalte entsprechend behandeln.
Einordnunganzeigen
Anbieter von Chat-Assistenten prüfen Inhalte automatisiert und behalten sich vor, in schweren Fällen Behörden zu informieren. Wo genau diese Schwelle liegt, steht in den Nutzungsbedingungen meist nur allgemein. Für die berufliche Nutzung entsteht daraus eine Vertrauensfrage, die weniger mit diesem Einzelfall zu tun hat als mit der Kontoart, die dein Team verwendet.
Kläre im Team, welche Inhalte in ein Consumer-Konto dürfen und welche nur in eine Enterprise- oder API-Umgebung mit vertraglichen Zusagen. Prüfe dazu die Datenschutzbedingungen deines aktuellen Tarifs.
Relevant für Teams, die AI-Assistenten mit Kunden-, Personal- oder Rechtsdaten nutzen.
Achte darauf, ob OpenAI die Meldeschwelle und das Verfahren öffentlich präzisiert.
Schwache Lage: ein Futurism-Bericht mit Inhaltswarnung, ohne Bestätigung der Beteiligten und ohne Angaben zum Verfahren.
Quellen