Alterskontrolle bis auf die Knochen

KI scannt massenhaft Bilder und Videos auf Körpermerkmale hin

Auf seinen Social-Media-Plattformen macht der US-Technologiekonzern Meta einen umstrittenen Schritt bei der Alterskontrolle. Eine KI-gestützte Software scannt fortan massenhaft Bilder und Videos von Social-Media-Accounts und durchsucht diese nach Hinweisen auf das Alter der Nutzenden. In Kombination mit weiteren Informationen zum Beispiel aus Nutzerprofilen sollen so die Konten von Kindern und Jugendlichen aufgespürt werden. In der EU wird das neue Verfahren auf Instagram ab sofort und auf Facebook ab Juni wirksam.

Erklärtes Ziel von Meta ist es, Zugänge von unter 13-Jährigen zu löschen. Konten von 13- bis 17-Jährigen sollen automatisiert strengere Sicherheitseinstellungen erhalten. Damit reagiert der US-Konzern auf die Feststellung der EU-Kommission Ende April, dass Instagram und Facebook gegen den Digital Services Act (DSA) verstießen. Die in deren Allgemeinen Geschäftsbedingungen festgelegte Altersgrenze von 13 Jahren würde durch eine reine Altersabfrage nicht wirksam durchgesetzt. Meta droht ein Bußgeld in Milliardenhöhe.

Quellen: Pressemitteilung Meta, dpa/Stuttgarter Zeitung, heise online

Neu ist die Tiefe der Überwachung zum Zweck der Alterskontrolle

Neu an Metas Vorgehen in Sachen Alterskontrolle ist die Tiefe, mit der der US-Konzern fortan die Inhalte seiner Nutzerinnen und Nutzer überwacht. Bislang wurden ausschließlich Informationen in Textform analysiert, um Accounts von Minderjährigen zu finden. Hierfür wurden Profile, Posts, Kommentare oder Bildunterschriften durchleuchtet. Wenn Nutzende zum Beispiel Schulnoten oder eine Geburtstagszahl unter 18 erwähnten, wurde dies als möglicher Hinweis auf einen Minderjährigen-Account eingestuft.

Ab sofort kombiniert Meta diese Textanalyse mit einer neuen „visuellen Analyse“:

Eine KI-gestützte Software scannt Bilder und Videos von Userinnen und Usern.
Der Körperbau, die Körpergröße und die Knochenstruktur der abgebildeten Personen werden analysiert, um ihr Alter zu schätzen.
Objekte werden daraufhin durchleuchtet, ob sie mögliche Hinweise auf das Alter liefern – wie z.B. Zahlen auf Geburtstagstorten, Schulbücher oder Kleider-/Schuhgröße.

Auch die Verhaltensmuster von Nutzenden fließen in die Alterseinschätzung ein: Wie bewegen sie sich auf der Plattform? Welchen Accounts folgen sie? Wie ist ihr Sprachgebrauch?

Quellen: Pressemitteilung Meta, heise online, t3n

Neue Alterskontrolle von Meta ist rechtlich umstritten

Die neue visuelle Analyse von Meta zielt zwar nicht darauf ab, Personen eindeutig zu identifizieren, sondern sie einer mutmaßlichen Altersgruppe zuzuordnen. Allerdings ist Datenschutzjuristin Kleanthi Sardeli von der Nichtregierungsorganisation noyb der Ansicht, dass „Knochenstruktur und Körpergröße (…) als Gesundheitsdaten angesehen werden [können], die denselben Schutz wie biometrische Daten genießen.“ Laut der europäischen Datenschutzgrundverordnung (DSGVO) dürfen diese nur nach „ausdrücklicher Einwilligung“ verarbeitet werden, was auf Instagram und Facebook jedoch bislang nicht der Fall ist.

In der Kritik steht das Verfahren auch wegen möglicher Fehleinschätzungen des Alters, die sich zum Beispiel bei eher kleinen oder schmalen Menschen häufen könnten. Außerdem könnte die EU-Kommission die visuelle Analyse auf Grundlage des DSGVO-Grundsatzes der „Datenminimierung“ als zu datenintensiv und damit unverhältnismäßig einstufen.

Quelle: netzpolitik.org

Verdächtige Konten werden gelöscht oder in Teen Accounts umgewandelt

Kommt die KI-gestützte Software zu dem Verdacht, dass eine Person unter 13 Jahren einen Account betreibt, wird dieser gesperrt. Um eine Löschung zu umgehen, müssen Userinnen und User ihre Volljährigkeit über den Altersverifikations-Anbieter Yoti nachweisen, der jedoch selbst aus Datenschutzgründen in der Kritik steht.

Stuft die KI Nutzende als minderjährig, aber über 13 Jahren ein, werden deren Konten automatisiert in sogenannte „Teen Accounts“ umgewandelt. „Ein Teen Account ist in jedem Fall ein Vorteil, weil hier wichtige Einstellungen zum Schutz von Privatsphäre vorab eingerichtet und die Kontaktaufnahme durch Fremde eingeschränkt ist“, meint Medienpädagogin Andrea Zeisberg von der Medienpädagogischen Beratungsstelle am LMZ. „Auch sensible Inhalte werden meist direkt aus dem Feed gefiltert.“

Quellen: europaparl.europa.eu, BR24

Expertentipps zur Social-Media-Nutzung von Jugendlichen

Doch auch mit einem Teen-Account bleiben Risiken: von Fake-Profilen über Influencer-Werbung, überzogene Schönheitsideale und zweifelhafte Rollenbilder bis hin zum Datenschutz. Zeisberg empfiehlt Eltern, vor der Eröffnung eines Social-Media-Accounts mit ihren Kindern über diese Risiken zu sprechen und auch danach weiter im Austausch über deren Social-Media-Aktivitäten zu bleiben. „Insbesondere die Rechte anderer am eigenen Bild und ähnliches sollten bekannt sein, damit man nicht Inhalte postet, die einem selbst oder anderen unangenehm werden können“, so die Expertin.

Wie Eltern gemeinsam mit ihren Kindern Social-Media-Regeln aufstellen können, erfahren Sie in der nebenstehenden Infografik mit Expertentipps von Andrea Zeisberg. Im Rahmen der Medienpädagogischen Beratungsstelle berät die Medienpädagogin Eltern sowie Pädagoginnen und Pädagogen bei Fragen und Problemen rund um die digitale Lebenswelt von Kindern und Jugendlichen.

Beratungsstelle kennenlernen