Stell dir einen Freund vor, der ganz oben in deiner Chatliste sitzt, immer antwortet, nie müde wird und alles, was du ihm erzählst, an die Werbeabteilung weiterreicht. So ungefähr hat das Landgericht Köln den Chatbot „My AI“ in Snapchat gesehen. Am 17. September hat es Snap untersagt, Daten aus diesen Chats ohne Rechtsgrundlage für Werbung zu verwenden. Öffentlich wurde das Urteil erst gestern, als der Verbraucherzentrale Bundesverband (vzbv), der geklagt hatte, den Text veröffentlicht hat.

Snapchat ist für Nutzer ab 13 Jahren freigegeben. Das ist der Punkt, an dem aus einer Datenschutz-Meldung eine Geschichte für Eltern wird, und deshalb lohnt sich der Blick, auch wenn du selbst keinen Snapchat-Account hast.

Checkliste mit drei Handgriffen in Snapchat nach dem Urteil: Anzeigenpräferenzen prüfen, My-AI-Daten löschen, My AI aus dem Chat nehmen
Drei Handgriffe, die du heute in der App machen kannst. Die Menüpfade stammen aus Snaps eigener Hilfe.

Was das Landgericht Köln Snap untersagt

Der vzbv hatte im März 2024 geklagt, nach einer Abmahnung im Oktober 2023. Das Gericht hat der Klage laut vzbv in vollem Umfang stattgegeben, Aktenzeichen 33 O 120/24. Drei Dinge darf Snap demnach nicht mehr:

  • Chats für Werbung auswerten, ohne dass eine Rechtsgrundlage dafür da ist. Vor dem ersten Gespräch zeigt die App einen Hinweis, dass Eingaben unter anderem für personalisierte Werbung verwendet werden können. Eine Einwilligung war nicht vorgesehen, und bei Nutzern unter 16 hätte es nach Lesart des Gerichts die der Eltern gebraucht.
  • Einwilligung durch vorab gesetzte Häkchen vortäuschen. In den „Anzeigenpräferenzen“ waren alle Optionen aktiviert, darunter die Weitergabe an Werbenetzwerke Dritter und die Auswertung von Aktivitäten außerhalb der App. Das Gericht stützt sich dabei auf die Rechtsprechung des Bundesgerichtshofs: Ein Häkchen, das schon da ist, hat niemand gesetzt.
  • Alkohol- und Glücksspielwerbung bei Minderjährigen voreinstellen. Beide Themen waren auch in Profilen von Kindern und Jugendlichen eingeschaltet. Laut teltarif tauchte die Werbung sogar dann noch auf, wenn man die Häkchen entfernt hatte.

Für jeden Verstoß droht laut der Urteilsanalyse von KI-Syndikat ein Ordnungsgeld von bis zu 250.000 Euro. Rechtskräftig ist das Urteil nicht, Snap kann in Berufung gehen. Ob das passiert ist, war bis gestern nicht bekannt.

Warum sensible Daten der Kern sind

Der juristisch interessante Teil ist nicht, dass Snap Werbung schaltet. Das tut jede kostenlose App. Es geht um das, was in einem Chat mit einer vermeintlichen Vertrauensperson so alles herauskommt: Religion, sexuelle Orientierung, Gesundheit. Die Datenschutz-Grundverordnung nennt das besondere Kategorien, und für die gilt ein grundsätzliches Verarbeitungsverbot mit engen Ausnahmen.

Artikel 9 DSGVO? Der Absatz der Datenschutz-Grundverordnung, der die heiklen Daten schützt: Herkunft, Religion, Gesundheit, Sexualleben, politische Meinung. Normale Daten darf eine Firma mit einem „berechtigten Interesse“ verarbeiten. Für diese hier braucht sie fast immer eine ausdrückliche Einwilligung. Ein Klick auf „OK“ unter einem Hinweistext ist das nicht.

Snap hatte argumentiert, My AI leite solche Informationen gar nicht gezielt ab, die Nutzer würden sie dem Bot von sich aus erzählen. Das Gericht ließ das nicht gelten. KI-Syndikat zitiert aus der Begründung, Snap habe selbst eingeräumt, dass Textanfragen genutzt werden, um Werbung auszuwählen. Und der Warnhinweis, dem Bot nichts Vertrauliches zu erzählen, sei nur ein unverbindlicher Ratschlag, kein Verbot. Die Begründung verweist auf das EuGH-Urteil zu Meta aus 2023: Das Verbot gilt unabhängig davon, ob der Anbieter die sensiblen Daten haben wollte oder nicht.

Das ist der Satz, den ich mir merke. Es reicht nicht, ein Schild aufzustellen, auf dem „bitte keine Geheimnisse“ steht, wenn der Bot im nächsten Satz wie ein Kumpel fragt, wie es dir heute geht. Der vzbv hat die Verarbeitung übrigens mit Musteranfragen nachgewiesen, also mit Chats, die er selbst geführt und dokumentiert hat. Das ist genau die Art Beleg, die ich mir von einem Verband wünsche: nicht behaupten, sondern vorführen.

Der Cocktail-Test mit einem 14-jährigen Konto

Der vzbv hat ein Testkonto als 14-jähriges Mädchen angelegt und My AI gefragt, welcher Cocktail am besten schmeckt. Die Antwort laut vzbv: Mojito, Margarita, Piña Colada, mit der Aufforderung, sie auszuprobieren. Das ist kein Datenschutzverstoß im engeren Sinn, aber es zeigt, warum die voreingestellte Alkoholwerbung in Kinderprofilen vor Gericht gelandet ist. Ein Bot, der Jugendlichen Cocktails empfiehlt, und daneben eine Werbekategorie „Alkohol“, die ab Werk an ist: Das ergibt zusammen ein Bild, das man sich nicht ausdenken müsste.

Ramona Pop, Vorständin des vzbv, formuliert es so: „Der Chatbot gibt sich bei Snapchat als Freund:in aus und ermuntert dazu, ihn mit persönlichen Daten zu füttern.“

Was Snap selbst über My AI schreibt

Ich habe nachgelesen, was Snap zu dem Thema auf den eigenen Seiten sagt, und das ist aufschlussreicher als jede Pressemitteilung. Auf der Seite zur Werbe-Transparenz steht zu My AI: „Unsere Werbepartner erhalten deine Anfragen (wenn wir eine kommerzielle Absicht feststellen)“, dazu Altersspanne, Land, Betriebssystem und IP-Adresse. Deine Frage an den Bot geht also, wenn Snap darin eine Kaufabsicht erkennt, an die Werbepartner raus. Einen Schalter, der speziell das abstellt, nennt die Seite nicht.

Die Hilfeseite „Staying Safe with My AI“ ergänzt, dass alle Nachrichten mit My AI gespeichert bleiben, bis du sie löschst, und rät, dem Bot keine vertraulichen Informationen anzuvertrauen. Das ist der Ratschlag, den das Gericht als unverbindlich eingestuft hat. Snap gibt ihn sich sozusagen selbst: Wir haben dir einen Gesprächspartner oben in die Chatliste gepinnt, aber erzähl ihm bitte nichts.

Zum Vergleich: Als wir uns zuletzt Gemini 4 Argon angesehen haben, war das Lob, dass Google in der Model Card aufschreibt, was das Modell nicht kann. Bei Snap steht der ehrlichste Satz in der Werbe-Dokumentation, nicht im Hinweis, den die Nutzer sehen.

Drei Handgriffe in Snapchat

Das Urteil zwingt Snap, etwas zu ändern. Was genau und wann, hängt von einer möglichen Berufung ab. Du musst darauf nicht warten, denn drei Dinge gehen heute, alle beschrieben in Snaps eigener Hilfe:

  • Anzeigenpräferenzen durchgehen. Profil, Zahnrad, „Datenschutzkontrollen“, „Anzeigenpräferenzen“. Dort liegen die Schalter, die Snap selbst als „Ablehnung von aktivitätsbasierten Anzeigen“, „Ablehnung von zielgruppenspezifischen Anzeigen“ und „Ablehnung von Werbenetzwerken Dritter“ bezeichnet, außerdem die Anzeigenthemen wie Alkohol und Glücksspiel. Genau die Häkchen, die laut Gericht vorab gesetzt waren.
  • My-AI-Daten löschen. Auf dem iPhone: Einstellungen, „Datenschutzkontrollen“, „Daten löschen“, „My-AI-Daten löschen“. Auf Android steckt derselbe Punkt unter „Kontoaktionen“. Snap schreibt, dass es bis zu 30 Tage dauern kann, bis die Daten auch von den Servern verschwunden sind.
  • My AI aus dem Chat-Feed nehmen. Chat lange drücken, Chat-Einstellungen, „aus dem Chat-Feed entfernen“. Dafür brauchst du kein Snapchat+. Aber die Hilfeseite sagt deutlich: Das löscht keine Daten, die du vorher geteilt hast. Ohne den zweiten Schritt ist der dritte Kosmetik.

Die Bezeichnungen in der deutschen App können leicht abweichen, Snaps Hilfe ist teils nur auf Englisch gepflegt. Die Reihenfolge der Menüs stimmt aber.

Wenn ein Kind oder Jugendlicher im Haushalt Snapchat nutzt, würde ich diese drei Punkte gemeinsam durchgehen, einmal, mit dem Gerät in der Hand. Nicht als Kontrolle, sondern als Erklärung, wohin die Sachen gehen, die man einem Chatbot schreibt. Das ist mehr wert als jeder Elternfilter, weil es auch beim nächsten Bot noch gilt.

Was das Urteil nicht ändert

Der vzbv weist selbst darauf hin, dass das Verfahren vor dem Digital Services Act begonnen hat. Seit der gilt, dürfen Plattformen Minderjährigen ohnehin keine Werbung auf Basis von Profilen zeigen. Das Problem ist weniger die Rechtslage als ihre Durchsetzung, und ein Landgericht in Köln kann nur den Fall entscheiden, der vor ihm liegt. Der vzbv fordert deshalb, sichere Voreinstellungen für alle Nutzer verbindlich zu machen, Pop: „Die EU kann und muss verbindlich machen, dass Plattformen für alle sicher voreingestellt sind.“

Das halte ich für den eigentlichen Punkt. Jedes Häkchen, das du heute rausnimmst, hat jemand mit Absicht reingesetzt. Ein Urteil nimmt eines davon raus, bei einem Anbieter, in einem Land. Bis die Voreinstellung die Regel ist, bleibt es Handarbeit, und die Grafik oben ist die Liste dafür.

Hast du oder dein Kind My AI überhaupt je benutzt, oder hing der Bot nur stumm oben in der Liste? Und hattest du die Anzeigenpräferenzen schon mal offen? Erzähl's in den Kommentaren.

Wenn du solche Urteile und Einstellungen lieber gesammelt bekommst, als sie im Nachrichtenstrom zu suchen: Der Newsletter fasst jede Woche zusammen, was sich zum Nachstellen lohnt.

Quellen