OpenAI gewährt erstmals einen Einblick in die Sicherheitsmechanismen von ChatGPT. Überraschend ist dabei, dass eine Datenweitergabe an Behörden durchaus möglich ist.

Das Unternehmen OpenAI hat erstmals offengelegt, wie die Nutzung von ChatGPT überwacht und auf potenziellen Missbrauch reagiert wird. Dabei wurde deutlich: Gespräche mit der künstlichen Intelligenz können unter bestimmten Umständen von Menschen überprüft werden. 

Open AI: Weitergabe von Daten „ausschließlich zweckgebunden“

Laut Angaben des Unternehmens kommen geschulte Prüfteams zum Einsatz, wenn Interaktionen als verdächtig eingestuft werden, etwa bei Hinweisen auf Gewalt, illegale Aktivitäten oder andere Risiken. 

In schwerwiegenden Fällen kann die Plattform nicht nur das Konto sperren, sondern Informationen auch an Strafverfolgungsbehörden weiterleiten.

Neben internen Mitarbeitern erhalten auch externe Partner selektiven Zugriff auf Chat-Auszüge. Die offizielle Begründung: Missbrauchsanalysen, rechtliche Klärungen, Kundensupport oder die Weiterentwicklung des KI-Systems – letzteres jedoch nur, wenn der Nutzer dem nicht ausdrücklich widerspricht.

Selbstverletzung: Keine automatische Meldung – mit Folgen

OpenAI betont, dass Daten ausschließlich zweckgebunden verwendet würden. Eine darüber hinausgehende Weitergabe sei ausgeschlossen.

Ein besonders sensibler Bereich bleibt der Umgang mit Äußerungen zu Selbstverletzung oder Suizidgedanken. Laut OpenAI werden solche Inhalte nicht automatisch den Behörden gemeldet, aus Rücksicht auf die Privatsphäre der Nutzer.

So berichtet beispielsweise „Focus Online“, dass sich ein Nutzer mit Bromid vergiftet habe. Hintergrund sei ein Tipp von ChatGPT gewesen, um Salz zu sparen.

Laut „Spiegel“ läuft in den USA zudem aktuell eine Klage gegen OpenAI: Eltern werfen dem Unternehmen vor, ihr Sohn habe über die Plattform konkrete Suizid-Anleitungen erhalten.

Quelle: focus.de – Das Original zu diesem Beitrag „ChatGPT-Sicherheit: OpenAI liest mit und gibt Informationen an Polizei weiter“ stammt von schmidtisblog.de.