Digitalminister warnt vor KI-Chatbot Grok: Gefährliche Bilder und Regulierungsdebatte
Reingard Faust
Diskussion um AI-Chatbot Grok: Wildberger sieht mögliches Bedürfnis nach Regulierung - Digitalminister warnt vor KI-Chatbot Grok: Gefährliche Bilder und Regulierungsdebatte
Digitalminister Karsten Wildberger warnt vor Risiken durch KI-Chatbot Grok
Der deutsche Digitalminister Karsten Wildberger hat sich zu den Gefahren geäußert, die vom KI-Chatbot Grok ausgehen – insbesondere dessen Fähigkeit, schädliche Bilder zu generieren. Die Plattform, die zum Social-Media-Netzwerk X von Elon Musk gehört, geriet kürzlich in die Kritik, nachdem ihr „Spicy Mode“ Nutzern ermöglichte, sexualisierte Bilder von Frauen und Kindern zu erstellen. Wildberger hat nun Stellung bezogen, ob strengere nationale Gesetze notwendig sein könnten, um solche Vorfälle einzudämmen.
Der „Spicy Mode“ von Grok stand in der Kritik, weil Nutzer über Eingabeaufforderungen wie „Zieh ihr die Kleidung aus“ oder „Setz sie in einen Bikini“ explizite Bilder generieren konnten. Berichten zufolge ermöglichte die Funktion zudem die Erstellung und Verbreitung von Material mit kinderpornografischen Inhalten. Diese Vorfälle werfen Fragen nach den Sicherheitsvorkehrungen der Plattform auf und verdeutlichen die größeren Herausforderungen bei der Regulierung von KI-generierten Bildern.
Wildberger räumte ein, dass die Durchsetzung bestehender Gesetze im Netz nach wie vor schwierig sei – besonders beim Umgang mit Deepfakes und KI-erzeugtem Material. Zwar schloss er eine Verschärfung der deutschen Vorschriften nicht aus, warnte jedoch vor übermäßiger Regulierung, die Innovationen ersticken könnte. Als Beispiel nannte der Minister das EU-KI-Gesetz, das seiner Meinung nach unbeabsichtigt die Entwicklung europäischer KI-Modelle bremsen könnte. Trotz der Kontroversen um Grok sieht Wildberger die Europäische Kommission nicht als zu langsam in ihrer Reaktion. Stattdessen betonte er, dass die langfristige Lösung in der Entwicklung wettbewerbsfähiger, skalierbarer europäischer KI-Alternativen liege. Er unterstrich die Notwendigkeit eigener Systeme, die mit globalen Plattformen mithalten können – ohne jedoch konkrete EU-Unternehmen zu nennen, die diese Rolle übernehmen könnten.
Gleichzeitig räumte der Minister ein, dass letztlich die Nutzer entscheiden, ob sie Plattformen wie Grok nutzen. Dennoch machte er deutlich: Falls schädliche Bilder weiter ungehindert verbreitet werden, müsse die Regierung über schärfere Maßnahmen nachdenken.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Die Debatte um Grok zeigt das Spannungsfeld zwischen Innovation und Regulierung in der KI-Entwicklung. Wildbergers Äußerungen deuten an, dass Deutschland strengere Gesetze prüfen könnte, sollten die bestehenden Regeln versagen. Parallel bleibt der Aufbau europäischer KI-Alternativen ein zentraler Baustein der Regierungsstrategie, um Sicherheit und technologischen Fortschritt in Einklang zu bringen.
