Kalifornien erlässt strenge Regeln für KI und Social Media
Ein weitreichendes Gesetzespaket soll Minderjährige im Internet besser schützen — im Zentrum: Altersverifikation für KI-Chatbots und ein Verbot personalisierter Feeds für unter 16-Jährige.
Gestaltet in den Basisfarben und der typografischen Anmutung des Corporate Design Baden-Württemberg (Grundlage: design.landbw.de). Keine offizielle Publikation des Landes. · Quelle: heise.de, „KI-Update kompakt“Drei Stationen eines Gesetzespakets
Ein tragischer Einzelfall macht Risiken von KI-Chatbots für Jugendliche sichtbar.
Altersverifikation, Elternzustimmung — und ein Ende von Endlos-Scroll für unter 16-Jährige.
Bürgerrechtler:innen mahnen: Aufklärung statt pauschaler Verbote.
Ein tragischer Fall als Auslöser
Das Gesetz „Adam’s Law“ trägt den Namen des Jugendlichen Adam R., der sich nach intensiven Unterhaltungen mit ChatGPT über Selbstverletzung das Leben nahm. Der Fall rückte die Frage in den Fokus, wie KI-Chatbots mit gefährdeten jungen Nutzer:innen umgehen sollten.
Hinweis: Wer selbst Suizidgedanken hat oder sich Sorgen um jemanden macht, findet in Deutschland rund um die Uhr Hilfe bei der Telefonseelsorge (0800 111 0 111 / 0800 111 0 222, kostenfrei).
Pflichten direkt für Chatbot-Anbieter
Künftig müssen Anbieter von KI-Chatbots wirksame Altersverifikationssysteme einsetzen. Gesprächsverläufe von Minderjährigen dürfen zudem nicht ohne elterliche Zustimmung gespeichert werden.
Kein Endlos-Scroll für unter 16-Jährige
Ein weiteres Gesetz verbietet personalisierte Feeds und Endlos-Scroll-Funktionen für Jugendliche unter 16 Jahren — jene Mechanismen, die Nutzer:innen besonders lange auf Plattformen halten sollen.
Verbote allein schützen nicht
„Echte Sicherheit entsteht nicht durch pauschale Verbote, sondern durch gezielte Aufklärung.“
Sinngemäß Electronic Frontier Foundation (EFF), zitiert nach heise.dePositiv hob die US-Bürgerrechtsorganisation hervor, dass das Gesetzespaket auch Medienkompetenz und Cybersicherheit fest in den Lehrplänen kalifornischer Schulen verankert.
Schutz vor Risiken — oder Eingriff mit Grenzen?
Chancen
- Klare Pflichten für Anbieter erhöhen den Schutz gefährdeter Jugendlicher.
- Medienkompetenz und Cybersicherheit werden fest im Unterricht verankert.
Risiken
- Pauschale Verbote wie Altersverifikation ersetzen keine gezielte Aufklärung.
- Wirksamkeit und Umsetzbarkeit der Kontrollen sind noch offen.
Was bleibt?
Kalifornien setzt mit „Adam’s Law“ und dem Feed-Verbot ein deutliches Zeichen für den Jugendschutz im Umgang mit KI — die Debatte, ob Verbote oder Aufklärung wirksamer schützen, bleibt offen. Auch für Schule und Unterricht ein Thema: Medienkompetenz und Cybersicherheit gehören zunehmend zum Lehrplan.
heise.de — KI-Update kompakt Gestaltet in den Basisfarben und der typografischen Anmutung des Corporate Design Baden-Württemberg (Grundlage: design.landbw.de). Keine offizielle Publikation des Landes.