Frankreich durchsucht Büros von X: Ermittlungen wegen Grok und möglicher Gesetzesverstöße

Die französischen Behörden haben Durchsuchungen in den Büros von X France, der französischen Tochtergesellschaft von X Corp, durchgeführt. Die Maßnahme ist Teil eines umfangreichen strafrechtlichen Ermittlungsverfahrens im Zusammenhang mit dem KI-Chatbot Grok, der auf der Plattform X integriert ist. An der Aktion waren Vertreter der Pariser Staatsanwaltschaft, der Gendarmerie sowie Europol beteiligt.

Durchsuchungen im Rahmen eines laufenden Ermittlungsverfahrens

Koordinierter Einsatz von Staatsanwaltschaft, Cyber-Einheit und Europol

Wie aus einem offiziellen Kommuniqué hervorgeht, wurde die Durchsuchung von der Cybercrime-Abteilung der Staatsanwaltschaft Paris gemeinsam mit der nationalen Cyber-Einheit Unité nationale cyber und Europol durchgeführt. Ziel war es, Beweismaterial im Zusammenhang mit möglichen Rechtsverstößen durch die Aktivitäten von X und insbesondere durch den Einsatz von Grok zu sichern.

Die Ermittlungen gelten als Teil eines der bislang umfangreichsten Verfahren gegen eine große Social-Media-Plattform in Frankreich.

Untersuchung läuft seit Anfang 2025

Die Staatsanwaltschaft eröffnete das Verfahren bereits im Januar 2025, nachdem mehrere Beschwerden über mögliche Verstöße gegen französische Gesetze im Bereich Cybersicherheit und Online-Inhalte eingegangen waren. Im Juli 2025 wurde die Untersuchung ausgeweitet, nachdem X neue Funktionen rund um den KI-Chatbot Grok in die Plattform integriert hatte.

Schwere Vorwürfe gegen die Plattform X

Inhaltliche und technische Verstöße im Fokus

Nach Angaben der Ermittlungsbehörden umfasst das Strafverfahren unter anderem folgende Verdachtsmomente:

• mögliche Verbreitung sexueller Inhalte mit Minderjährigen,
  
• Erstellung und Verbreitung von Deepfakes,
  
• Leugnung des Holocausts, die in Frankreich als Straftat gilt,
  
• Missbrauch oder Manipulation automatisierter Content-Moderationssysteme,
  
• weitere Verstöße gegen geltende Cyber- und Mediengesetze.
  

Die Ermittler prüfen dabei sowohl technische Abläufe als auch interne Entscheidungsprozesse innerhalb des Unternehmens.

Beschwerden wegen Bildverarbeitung durch Grok

Ein besonderer Fokus liegt auf Beschwerden zur Verarbeitung von Bildern durch Grok ohne Zustimmung der Urheber. Laut den Behörden sollen Nutzer den Chatbot genutzt haben, um aus vorhandenen Bildern Inhalte sexuellen Charakters zu generieren. Diese Nutzung wirft erhebliche Fragen zum Datenschutz, zur Einwilligung und zur Verantwortung der Plattform auf.

Vorladung von Elon Musk und Linda Yaccarino

Freiwillige Aussage bis April 2026

Im Rahmen des Verfahrens hat die Staatsanwaltschaft zudem Vorladungen zur freiwilligen Aussage an die ehemalige CEO von X Corp, Linda Yaccarino, sowie an den Eigentümer des Unternehmens, Elon Musk, verschickt. Beide sollen bis spätestens 20. April 2026 vor den französischen Behörden erscheinen.

Zum Zeitpunkt der Berichterstattung hat sich Elon Musk öffentlich nicht zu den Durchsuchungen oder den Vorwürfen geäußert.

Reaktionen aus der Tech-Branche

Pavel Durov kritisiert Vorgehen der französischen Behörden

Der Mitgründer von Telegram, Pavel Durov, reagierte öffentlich auf die Durchsuchungen und zog Parallelen zu eigenen rechtlichen Problemen in Frankreich. In einer Stellungnahme erklärte er:

Frankreich sei derzeit das einzige Land, das soziale Netzwerke strafrechtlich verfolge, wenn diese den Nutzern ein gewisses Maß an Freiheit gewährten. Betroffen seien Plattformen wie Telegram, X oder TikTok. Aus seiner Sicht handele es sich dabei nicht um ein Land mit uneingeschränkter Meinungsfreiheit.

Die Äußerung sorgte in der Tech-Community für kontroverse Diskussionen über Regulierung, Meinungsfreiheit und staatliche Eingriffe.

EU-Ebene ebenfalls involviert

Untersuchung durch die Europäische Kommission

Bereits zuvor hatte die Europäische Kommission bestätigt, dass sie ebenfalls eine formelle Untersuchung gegen X eingeleitet hat. Dabei geht es um die Einhaltung europäischer Vorschriften zu Plattformverantwortung, KI-Einsatz und dem Schutz von Minderjährigen.

Die parallelen Verfahren auf nationaler und europäischer Ebene erhöhen den regulatorischen Druck auf das Unternehmen erheblich.

Fazit

Die Durchsuchungen in den französischen Büros von X markieren eine neue Eskalationsstufe im Umgang europäischer Behörden mit großen Social-Media-Plattformen und KI-gestützten Systemen. Die Ermittlungen gegen Grok betreffen zentrale Fragen zu Datenschutz, Content-Moderation und der Verantwortung von KI-Anwendungen.

Unabhängig vom Ausgang des Verfahrens dürfte der Fall weitreichende Folgen für den Einsatz von generativer KI in sozialen Netzwerken haben – nicht nur in Frankreich, sondern in der gesamten EU.