Dies ist, was passiert, wenn Instagram bestimmte Pro-Anorexie-Wörter verboten
Im Jahr 2012 begonnen Instagram Moderation bestimmte Begriffe von Pro-Anorexie-Gruppen, so dass es eines enger moderierten social Media Plattformen. Eine Gruppe von Georgia Tech Forscher beschlossen zu untersuchen, ob ein Verbot solcher Worte der Gemeinden mit ihnen geholfen. Stattdessen fanden sie, dass es verschlimmern kann.
Wie viele social Media-Sites, die Foto- und Video-sharing-Dienst befand sich Gastgeber für eine Reihe von Gemeinden, die Nutzer und Eigentümer gab pausieren. Gruppen von Menschen mit Essstörungen gebildet Gemeinschaften um Magersucht, Bulimie und andere Essstörungen als Lebensstil zu fördern. Sie haben Tipps zur Ernährung oder zu löschen, Bilder von ihren Körpern, die machte sie schämen und schob sie zu Diät mehr und "Thinspiration" Fotos von extrem dünnen prominenten gehandelt.
So Instagram begann aggressiv Moderation Schlüsselbegriffe wie "Thighgap", "Imugly" und "Thinspiration". Auf die Bedingungen der Suche brachte keine Ergebnisse, und wenn Beiträge mit diesen Ergebnissen markiert wurden, mussten Benutzer zunächst einen Bildschirm berät sie, sie würde fragwürdige Inhalte anzeigen und gelegentlich Bereitstellung von Links zu hilfreichen Websites oder Hotlines einsehen.
Georgia Tech Forscher verwendeten eine Programm um 2,5 Millionen Beiträge auf Instagram zwischen 2011 und 2014, sehen diese verbotenen Wörtern suchen. Sie präsentierten ihre Ergebnisse bei der ACM Conference on Supported Cooperative Work und Social Computing am 1. März in San Francisco war.
Sie fanden, dass ein Verbot genaue Bedingungen wenig Tat, um die Gemeinden zu stoppen, die die Begriffe verwendet. Stattdessen brachte es Variationen in der Schreibweise, wie z. B. "Thyghgapp" und "Thinspoooooo." Instagram verboten 17 Begriffe. Schon bald gab es mindestens 250 Begriffe, die speziell von Pro-eating Störung Gemeinschaften. Alternativen Schreibweisen tauchte auch auf Tumblr und anderen social Media-Plattformen.
Verbot der Begriffe fördern "wir gegen sie" Haltung in den Gemeinden zu oder auf ihren Einsatz machen verdoppeln zu?
Graduate Student Stevie Kanzler, einer der Co-Autoren der Studie, sagte Gizmodo, dass sie ungern an der Psychologie der Menschen in den Gemeinden zu erraten ist. "Das ist ein Problem Korrelation oder Kausalität", sagte sie. Aber nachdem die Verbote die Gemeinschaften eher zu reden, und markierst, mehr extremes Verhalten. "Unsere Beobachtungen zeigen, dass Menschen, die die neue Begriffe auch Begriffe wie"Isolation","Einsamkeit", oder" selbstverletzendes Verhalten, "sagte sie. Was die Änderung verursacht, ist nicht genau geklärt. Kanzler glaubt es könnte "ohne äußere Einflüsse von jemandem, der sagt"Komm mit mir zu reden, wenn Sie mich brauchen"anstelle von" hey, gute Arbeit, weiter so. ""
"Wir sind nicht kausale Schlussfolgerungen zeichnen", bestätigt Co-Autor Munmun De Choudhury, Assistant Professor an der Georgia Tech, fügte hinzu, dass der Anstieg der Begriffe erwähnen, selbstverletzendes Verhalten und Isolation, "zeitlich folgt das Verbot."
Anstatt ein Verbot Begriffe, denke De Choudhury und Kanzler social Media Plattformen ändern sollte das Empfehlungssystem zeigen Benutzern "Inhalt, ist sehr unterschiedlich, was sie suchen." Eine Suche nach "Thinspo" sollte nicht zurückgegeben werden, dass nur Ergebnisse für Thinspiration Fotos, sondern für Gemeinschaften von Menschen bei der Wiederherstellung von Essstörungen, Akzeptanz Karosseriehalter, soziale Dienste stellen, und andere Beiträge, die Forscher einen Einblick in andere Sichtweisen zu ermöglichen und Gruppen, die ihnen helfen könnten gesünder erhalten.
Diese Erkenntnisse zu hassen oder kriminelle Gruppen anwendbar sein könnte? Sie können sicherlich nur erfinderisch sein ausweichen in puncto Suchbegriffe verboten. "Es ist der menschlichen Natur, einen anderen Ausweg einfallen lassen", sagte De Choudhury. Jedoch die Psychologie und sozialen Kontext von Hass-Gruppen unterscheidet sich sehr von denen der Menschen leiden unter psychischen Problemen oder Essstörungen, so dass in solchen Fällen "Es könnte machen Sinn, Dinge zu verbieten."
Kanzler einig: "Menschen sind gonna entziehen" Beschränkungen der Suchbegriffe unter fast allen Umständen. Aber sie denkt es wäre möglich, dass ein ähnlicher modifizierten Ansatz in anderen Gruppen arbeiten: Änderung Suchbegriffe, so dass sie Ergebnisse zurückgeben, die Menschen, die nach ihnen zu suchen, eine andere Perspektive oder eine breitere Wissensbasis zu geben. "Dies könnte der erste Schritt in diese Richtung sein."