Vorgeschlagene Inhalte von Instagram und Pinterest führten zum Tod

Algorithm Death: Während wir uns auf ein immersives Leben in der Metaverse zubewegen, dröhnen Alarme. Technologieunternehmen müssen ihre Algorithmen in Ordnung bringen, sonst könnte dies für einige eine riskante Zukunft sein.

Obwohl wir noch nicht bei Web3 sind, sind Probleme mit Web2 immer noch unglaublich besorgniserregend. Während Algorithmen von Big Tech gut für die Gesellschaft sein können, solche wie diese Verbrechen im Voraus vorhersagen, es gibt andere, die eine totale Katastrophe sind.

Gerichtsmediziner Andrew Walker identifizierte die Todesursache der 14-jährigen Molly Rose Russell als Akt der Selbstverletzung. Er sagte, dies sei auf Depressionen und die negativen Auswirkungen von Online-Inhalten zurückzuführen.

Wanderer sagte dass „es für uns nicht sicher wäre, Selbstmord als Todesursache anzuerkennen“.

Algorithmus-Tod: Instagram und Pinterest

Der Experte sagte, dass Instagram und Pinterest Algorithmen verwendeten, die unangemessene Inhalte auswählten und mit der Schülerin teilten, ohne dass sie die Informationen anforderte. Walker berichtet: „Einige Inhalte romantisierten die Selbstverletzung junger Menschen, während andere die Isolation förderten und es unmöglich machten, das Problem mit Menschen zu besprechen, die helfen könnten.“

Entsprechend der GuardianAm Vorabend ihres Todes hat Russell im Jahr 2,000 mehr als 2017 Instagram-Posts gespeichert, geliked oder gepostet. Sie alle wurden mit Suizid, Depression oder Selbstverletzung in Verbindung gebracht. Das Mädchen sah sich auch 138 Filme ähnlicher Art an. Darunter waren Folgen der Serie 13 Gründe, warum? für Personen 15+ und 18+.

Ein Kinderpsychiater sagte während der Anhörung, dass er, nachdem er analysiert hatte, was Russell kurz vor ihrem Tod gesehen hatte, wochenlang nicht in der Lage war, ruhig zu schlafen.

„10 Depressions-Pins, die dir gefallen könnten“

Auf dem Pinterest-Account des Mädchens fanden die Ermittler Hunderte Fotos von Selbstverletzungen und Selbstmord. Es stellte sich auch heraus, dass die Plattform den Studierenden E-Mails mit Empfehlungen zu unangemessenen Inhalten schickte. Einige von ihnen hatten Überschriften mit der Aufschrift „10 Depressions-Pins, die Ihnen gefallen könnten“.

Es ist wahrscheinlich, dass das Material, das von Molly, die bereits an einer depressiven Störung leidet und anfällig für altersbedingte Verletzungen ist, angesehen wurde, eine negative Wirkung auf sie hatte. Es ist auch wahrscheinlich, dass es mehr als nur minimal zum Tod des Kindes beigetragen hat.

Vertreter von Meta und Pinterest entschuldigten sich und gaben zu, dass Russell auf den Plattformen auf Inhalte gestoßen sei, die nicht dort sein sollten. Ein Meta-Sprecher sagte: „Wir möchten, dass Instagram allen, insbesondere Teenagern, ein positives Erlebnis bietet. Wir werden uns den vollständigen Bericht des Gerichtsmediziners genau ansehen, wenn er ihn abliefert.“

Pinterest hat erklärt, dass es die Plattform ständig verbessert und sich dafür einsetzt Sicherheitdienst für alle.

Andere Fälle

TikTok wurde im Mai wegen angeblicher „tödlicher Empfehlungen“ seiner Algorithmen verklagt. Im Dezember 2021 startet Amazons virtuelle Assistentin Alexa schlug eine fatale Herausforderung vore zu einem 10-jährigen Kind.

Es ist eine schöne neue Welt, aber auch eine beängstigende. Big Tech kann nicht zufrieden sein mit der zukünftigen Rolle, die sie in dieser Frage spielen.

Haben Sie etwas über den Tod des Algorithmus oder etwas anderes zu sagen? Schreib uns oder beteiligen Sie sich an der Diskussion in unserem Telegrammkanal. Sie können uns auch erreichen Tik Nahm, Facebook, oder Twitter.

Haftungsausschluss

Alle auf unserer Website enthaltenen Informationen werden in gutem Glauben und nur zu allgemeinen Informationszwecken veröffentlicht. Alle Maßnahmen, die der Leser in Bezug auf die auf unserer Website enthaltenen Informationen ergreift, erfolgen ausschließlich auf eigenes Risiko.