Minderjährige können das neue „Take It Down“-Tool von NCMEC verwenden, um anstößiges Material von sich selbst zu melden, das online geteilt wurde – oder von dem sie glauben, dass es noch geteilt wird.
Getty Images
Meta finanziert eine nationale Aktion, um Kindern und Jugendlichen dabei zu helfen, ihre nackten oder sexuell expliziten Bilder aus den sozialen Medien zu entfernen. Könnte der eigene Schritt des Giganten in Richtung Ende-zu-Ende-Verschlüsselung im Weg stehen?
TDas Nationale Zentrum für vermisste und ausgebeutete Kinder hat eine von Meta finanzierte Plattform ins Leben gerufen, um Kindern und Jugendlichen dabei zu helfen, nackte oder sexuelle Fotos und Videos von sich aus den sozialen Medien zu entfernen.
Der neue Service für Minderjährige, genannt Nimm es runter, wurde ein Jahr nach der Veröffentlichung eines ähnlichen Tools für Erwachsene vorgestellt, das als bekannt ist StopNCII (kurz für non-consensual intimate imagery). Heute wird Take It Down nur auf fünf Plattformen funktionieren, die sich zur Teilnahme bereit erklärt haben: Meta-eigenes Facebook und Instagram sowie Yubo, OnlyFans und Pornhub.
„Wir haben dieses System geschaffen, weil viele Kinder mit diesen verzweifelten Situationen konfrontiert sind“, sagte Michelle DeLaune, Präsidentin und CEO von NCMEC. „Wir hoffen, dass Kinder auf diesen Dienst aufmerksam werden und sich erleichtert fühlen, dass es Tools gibt, mit denen die Bilder entfernt werden können.“
Wie Social-Media-Unternehmen Kinder und Jugendliche schützen – und wo sie zu kurz kommen – hat sich im neuen Kongress zu einem wichtigen überparteilichen Thema der Technologiepolitik entwickelt, bei dem der Gesetzgeber die besten Chancen hat, Gesetze zu verabschieden. Dennoch ist es noch ein langer Weg für Vorschläge zur Schaffung oder Stärkung von Sicherheitsvorkehrungen, und da keine Gesetze unmittelbar bevorstehen, fungiert NCMEC weiterhin als Brücke zwischen Online-Unternehmen und Strafverfolgungsbehörden in Fragen der Kindersicherheit. Im Jahr 2021 erhielt die gemeinnützige Organisation auf ihren Plattformen fast 30 Millionen Tipps aus der gesamten Branche zu offensichtlichem Material zu Sextortion und sexuellem Missbrauch von Kindern. Ein Großteil wurde von Plattformen gemeldet, die Meta gehören.
Minderjährige und Eltern können verwenden Das kostenlose, anonyme Tool von NCMEC explizites Material einer minderjährigen Person zu kennzeichnen, das online verbreitet wurde oder von dem sie annimmt, dass es verbreitet werden wird. Sobald sie die sensiblen Fotos oder Videos auf ihrem Gerät ausgewählt haben, generiert die Plattform das Äquivalent eines digitalen Fingerabdrucks dieses Fotos (als „Hash“ bezeichnet), den NCMEC dann mit den teilnehmenden Social-Media-Websites teilt, damit sie versuchen können, sie zu finden. einschränken oder entfernen und diese Inhalte weiterhin überwachen.
Die fraglichen Fotos oder Videos verlassen laut NCMEC insbesondere nicht das Gerät und werden von niemandem angesehen. (Der Hash hält auch die Opfer sowohl für NCMEC als auch für die Social-Media-App unidentifizierbar und signalisiert nur, dass ein Bild schädlich ist und entfernt werden sollte.) NCMEC sagte, es seien keine bekannten Verstöße gegen seine Hash-Datenbank bekannt, die möglicherweise die Identität einer Person preisgeben könnten .
Eines der größten Hindernisse für diese Bemühungen ist jedoch der Aufstieg der Ende-zu-Ende-Verschlüsselung. „Wenn Technologieunternehmen eine End-to-End-Verschlüsselung implementieren, ohne vorbeugende Maßnahmen zur Erkennung von bekanntem Material über sexuellen Missbrauch von Kindern zu erkennen, sind die Auswirkungen auf die Sicherheit von Kindern verheerend“, sagte DeLaune, Präsident des NCMEC, dem Justizausschuss des Senats bei einer Anhörung in diesem Monat . Der Elefant im Raum ist, dass der Geldgeber und bekannteste Unternehmen, das an Take It Down beteiligt ist, Meta ist sich mit einem Clip in Richtung Ende-zu-Ende-Verschlüsselung zu bewegen sowohl auf Instagram als auch im Messenger.
Wie die beiden Organisationen dies in Einklang bringen können, ist „die Millionen-Dollar-Frage“, sagte NCMEC-Vizepräsident Gavin Portnoy Forbes, wobei darauf hingewiesen wird, dass NCMEC immer noch nicht genau weiß, was Metas Pläne für die Verschlüsselung sind und welche Sicherheitsvorkehrungen möglicherweise vorhanden sind. (Meta sagte, dass sie noch in Arbeit sind und dass verschiedene Verschlüsselungsfunktionen auf Instagram und Messenger getestet werden.)
„Wir bauen Take It Down für die heutige Situation des Internets und des [elektronischen Dienstanbieters]“, sagte Portnoy. „Das ist wirklich eine Brücke, die wir überqueren müssen, wenn wir besser verstehen, wie [Metas] End-to-End-Verschlüsselungsumgebung aussieht – und ob es eine Welt gibt, in der Take It Down funktionieren kann.“
Sagte Metas globaler Sicherheitschef Antigone Davis Forbes dass „die Verschlüsselung dazu führt, dass bestimmte Bilder von uns nicht identifiziert werden“, sondern dass sie sich zu einem Industriestandard für Messaging entwickelt, der für die Privatsphäre und Sicherheit der Benutzer von entscheidender Bedeutung ist. Die Verwendung von Hash-Technologie und die Unterstützung von NCMEC bei Projekten wie diesem sind nur einige Möglichkeiten, wie Meta versucht, „das Problem wirklich in den Griff zu bekommen“, sagte sie. (Beide Parteien lehnten es ab zu sagen, wie viel Geld Meta NCMEC gegeben hat, um Take It Down zu bauen.)
„Es gibt kein Allheilmittel, um diese Probleme anzugehen“, sagte Davis in einem Interview und beschrieb Metas Ansatz als „vielschichtig“. Zusätzlich zur Zusammenarbeit an diesem neuen System, das darauf abzielt, Sextortion und die nicht einvernehmliche Verbreitung intimer Bilder zu verhindern, erlaubt Meta erwachsenen Fremden nicht, sich über seine Nachrichtenfunktionen mit Minderjährigen zu verbinden, sagte sie. Es verwendet auch Klassifikatoren, um zu verhindern, dass Konten und Inhalte von Minderjährigen an erwachsene Meta-Benutzer weitergegeben werden, die online verdächtiges Verhalten gezeigt haben, fügte sie hinzu.
„Ich hoffe, dass Menschen, die solche Bilder in ihrer Jugend von irgendjemandem – von einem Elternteil, der sie ausgebeutet hat, von einem anderen Erwachsenen, der sie ausgebeutet hat, von einem Ex-Freund oder einer Ex-Freundin – geteilt haben, an dem sie interessiert sind Verwenden Sie dieses Tool“, sagte Davis.
NCMEC sagte, es habe einige aufgeschlagen 200 weitere elektronische Dienstleister die Informationen zur Teilnahme am Take It Down-Programm an ihre „CyberTipline“ übermittelt haben. Es bleibt abzuwarten, wer – abgesehen von der kleinen Handvoll Social-Media-Player, die sich heute dafür einsetzen – noch an Bord kommen wird. Yubo seinerseits sagte, es hoffe, dass diese Early Adopters andere zum Beitritt drängen werden.
„Es braucht mehr als nur staatliche Eingriffe, um Risiken zu mindern und Probleme online zu lösen“, sagte Sacha Lazimi, CEO von Yubo, per E-Mail. „Alle Akteure müssen ihre Rolle spielen. … Zusammenarbeit ist der Schlüssel, um Lösungen für große Herausforderungen zu finden, daher hoffen wir, dass sich weitere Plattformen der Take It Down-Initiative anschließen.“
Quelle: https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/