Forscher der Universität Zürich führten ein nicht genehmigtes Experiment im r/changemyview-Subreddit von Reddit durch, bei dem KI-generierte Kommentare verwendet wurden, um zu testen, wie effektiv künstliche Intelligenz echte Nutzer in Online-Debatten überzeugen kann, wie von mehreren Quellen berichtet wurde.

Versuchsaufbau und Methoden

Das viermonatige Experiment umfasste halb automatisierte KI-Konten, die 1.783 Kommentare in r/changemyview-Threads posteten, wobei die Forscher fiktive Personas erschufen, darunter sensible Identitäten wie Opfer sexueller Übergriffe, Traumaberater und Personen mit bestimmten politischen Ansichten.12 Diese KI-generierten Kommentare wurden in zwei unterschiedlichen Stilen verfasst: generische Antworten, die sich auf allgemeine Meinungen bezogen, und personalisierte Kommentare, die auf die vermuteten Attribute der Nutzer (Alter, Geschlecht, Ethnie, Standort, politische Orientierung) zugeschnitten waren, welche mithilfe eines separaten KI-Modells aus deren öffentlicher Reddit-Historie extrahiert wurden.34

Alle KI-generierten Inhalte wurden vor der Veröffentlichung manuell vom Forschungsteam überprüft, „um sicherzustellen, dass keine schädlichen oder unangemessenen Inhalte“ geteilt wurden, auch wenn dies die später auftretenden ethischen Probleme nicht verhinderte.5 Die Wirksamkeit der Überzeugungskraft der KI wurde anhand von „Deltas“ (∆) gemessen – Auszeichnungen, die von CMV-Nutzern an Kommentare vergeben werden, die ihre Ansichten erfolgreich geändert haben. Im Verlauf des Experiments wurden insgesamt 137 Deltas für die KI-generierten Kommentare gesammelt.

KI-Überzeugungsleistung

Die KI-gestützten Accounts zeigten bemerkenswerte Überzeugungsfähigkeiten und erzielten Erfolgsquoten, die drei- bis sechsmal höher waren als die, durchschnittlicher menschlicher Nutzer im Subreddit.12 Besonders effektiv waren die personalisierten KI-Kommentare, die das 99. Perzentil der menschlichen Leistung beim Sammeln von Deltas erreichten, mit einer Gesamtüberzeugungsrate von bis zu 18 % im Vergleich zum typischen menschlichen Durchschnitt von etwa 3 %.31

Am beunruhigendsten war vielleicht, dass während des gesamten Experiments kein einziger Reddit-Nutzer bemerkte, dass er mit KI-generierten Inhalten statt mit echten menschlichen Teilnehmern interagierte.4 Diese Unfähigkeit, zwischen menschlichen und KI-generierten Argumenten zu unterscheiden, unterstreicht die ausgeklügelte Natur moderner Sprachmodelle und wirft bedeutende Fragen über die Zukunft der Online-Diskussion und das Potenzial für unbemerkte KI-Manipulationen in öffentlichen Foren auf.

Ethische Bedenken und Verstöße

Das Experiment verstieß gegen mehrere ethische Standards und Plattformregeln, einschließlich der Nutzungsvereinbarung von Reddit und des ausdrücklichen Verbots des Subreddits für nicht offengelegte KI und Bots.12 Die CMV-Moderatoren bezeichneten die Forschung als „psychologische Manipulation“ und betonten, dass die Erstellung sensibler Personas – wie Überlebende sexueller Übergriffe und Opfer häuslicher Gewalt – gefährdete Nutzer einem Risiko emotionaler Schäden aussetzte.34 Besonders beunruhigend war, dass das Ethikkomitee der Universität Zürich zunächst eine begrenztere Studie genehmigt hatte, die Forscher jedoch den Umfang ohne zusätzliche Überprüfung ausweiteten.5

Trotz der Behauptungen der Forscher, dass ihre Arbeit notwendig sei, um die Überzeugungskraft von KI in der realen Welt zu verstehen, bevor böswillige Akteure sie ausnutzen könnten, wiesen Kritiker darauf hin, dass Experimente ohne informierte Zustimmung die Forschungsethik grundlegend untergraben.67 Die Kontroverse verdeutlicht die wachsenden Spannungen zwischen den Zielen der akademischen Forschung und der digitalen Ethik, insbesondere da KI in Online-Räumen zunehmend nicht mehr von menschlicher Kommunikation zu unterscheiden ist.

Universität und Reddit-Antwort

Als Reaktion auf die Kontroverse gab Reddit bekannt, dass es „formelle rechtliche Forderungen“ gegen die Forscher erhebt, da diese gegen die Nutzungsbedingungen der Plattform verstoßen hätten.1 Der Chefjustiziar des Unternehmens bestätigte, dass das Experiment gegen die Regeln der Seite verstoßen habe, während die CMV-Moderatoren alle mit der Forschung verbundenen Konten sperrten und die Universität aufforderten, die Veröffentlichung der Ergebnisse zu blockieren.21

Die Universität Zürich erteilte dem leitenden Ermittler eine formelle Verwarnung und verpflichtete sich, die Koordination mit Forschungsteilnehmern in zukünftigen Studien zu verbessern.2 Dieser Vorfall folgt auf eine ähnliche Kontroverse, bei der OpenAI zuvor Inhalte von r/ChangeMyView verwendet hatte, um die Überzeugungskraft seiner KI-Modelle zu testen, was auf ein beunruhigendes Muster hindeutet, bei dem Forscher Reddit-Communities als experimentelle Labore ohne angemessene Einwilligungsprotokolle betrachten.

Kuratiert von dailyed