AI Grok befindet sich im Zentrum eines internationalen Skandals um sexualisierte Dipfakes

Der Skandal wurde durch die Einführung der Schaltfläche "Bild bearbeiten" ausgelöst, die es Nutzern ermöglichte, Bilder auf der Grundlage von Textaufforderungen zu bearbeiten, darunter Aufforderungen wie "Ziehen Sie sie aus" oder "Ziehen Sie ihr einen Bikini an". Dies löste eine Flut von Beschwerden von Nutzern, Menschenrechtsaktivisten und Behörden in verschiedenen Ländern aus, schreibt Techxplore.

Reaktion der EU und Großbritanniens

Die Europäische Kommission erklärte, dass sie die Beschwerden über die Arbeit von Grok prüft. Thomas Renier, der Sprecher der Europäischen Kommission für digitale Angelegenheiten, bezeichnete die Situation als inakzeptabel:

"Grok bietet einen sogenannten 'pikanten Modus' an, der sexuell eindeutige Inhalte erzeugt, darunter auch Bilder mit kindlichen Zügen. Das ist nicht 'pikant'. Es ist illegal. Und es hat keinen Platz in Europa."

In Großbritannien forderte die Medienaufsichtsbehörde Ofcom X und xAI dringend auf, zu erklären, welche Maßnahmen zum Schutz der Nutzer getroffen wurden. Die Behörde hat nicht ausgeschlossen, eine formelle Untersuchung einzuleiten.

Ermittlungen und Druck von Ländern

Frankreich, Indien und Malaysia haben ebenfalls auf die Entwicklungen reagiert. In Frankreich hat die Staatsanwaltschaft die Ermittlungen gegen X um neue Anklagepunkte im Zusammenhang mit der möglichen Verbreitung von Kinderpornographie über KI erweitert.

Die indischen Behörden forderten X auf, die illegalen Inhalte zu entfernen, die Täter zu sperren und innerhalb von 72 Stunden Bericht zu erstatten. Die Frist ist bereits verstrichen, aber es gibt noch keine offiziellen Informationen über die Reaktion des Unternehmens.

Die malaysische Regulierungsbehörde für den Kommunikationssektor erklärte, sie sei "ernsthaft besorgt" und signalisierte ihre Absicht, Vertreter von X zu einer Erklärung vorzuladen.

"Das ist beängstigend und illegal."

Auch X-Nutzer haben sich lautstark gegen das Tool ausgesprochen. Die malaysische Anwältin Azira Aziz sagte, Grok habe ihr Foto ohne ihre Zustimmung verändert, indem es sie in einen Bikini verwandelte.

"Harmloses Experimentieren mit KI ist eine Sache. Aber wenn die Technologie als eine Form der geschlechtsspezifischen Gewalt gegen Frauen und Kinder eingesetzt wird, dann muss dem entschieden Einhalt geboten werden", sagte sie in einem Kommentar gegenüber AFP.

Eine Aussage von Ashley St Clair, der Mutter eines der Kinder von Ilon Musk, die schrieb, dass Grok "ihre Babyfotos auszieht", sorgte ebenfalls für Resonanz.

Die Reaktion von Grok und xAI

Inmitten des Skandals räumte Grok Probleme mit seinen Sicherheitsmechanismen ein und erklärte, dass es die Schwachstellen dringend beheben werde. Das Unternehmen betonte, dass Material zum sexuellen Missbrauch von Kindern streng verboten ist.

Grok hatte sich zuvor dafür entschuldigt, auf Wunsch eines Nutzers ein Bild von zwei minderjährigen Mädchen in sexualisierter Kleidung erzeugt zu haben.

Die offizielle Antwort von xAI auf die Anfrage von AFP war jedoch kurz und knapp und enthielt nur den Satz: "Legacy Media Lies".

Dies ist nicht der erste Skandal um Grok

Dies ist nicht das erste Mal, dass die Kritik an Grok wächst. In der Vergangenheit wurde AI vorgeworfen, Fehlinformationen über den Krieg in Gaza, den Konflikt zwischen Indien und Pakistan und die Schießerei in Australien zu verbreiten.

Experten stellen fest, dass die Situation die Debatte über die Notwendigkeit einer strengeren Regulierung von generativer KI und die Verantwortung von Plattformen für die von ihren Tools erstellten Inhalte verschärft.