Milions d’usuaris interactuen cada dia amb contingut a Facebook. Però, què passa quan el moment més horrible de la vida d'algú es converteix en un vídeo viral? Les imatges de l'assassinat d'un avi a Ohio que es van publicar a Facebook i les posteriors crítiques enfrontades pel gegant de les xarxes socials revelen un nou fenomen terrorífic del crim. En el futur, com gestionaran les empreses tecnològiques la violència que es publiqui - i es transmeti - a Internet?
Un home de Cleveland va publicar un vídeo seu a Facebook el 16 d'abril de 2017. Al tauler, enmig de discussions sobre les seves dificultats romàntiques, Steve Stephens va anunciar que estava a punt d'assassinar algú.
Vaig trobar algú que estic a punt de matar. Estic a punt de matar aquest noi, aquest tipus més gran ', va dir, segons BuzzFeed News .
Aleshores es va poder veure Stephens apropant-se a un home gran, aparentment confós per una sèrie de preguntes semiaudibles que li feia Stephens. Després, va obrir foc. La víctima es va mostrar sagnant mentre estava a terra.
Sara Dutra, on és ara?
Un portaveu de Facebook aclariria més tard que, tot i que Stephens havia transmès en directe abans de l'assassinat, el vídeo de l'assassinat real es va publicar després que es produís la mort. El vídeo del crim va ser retirat al cap de diverses hores, segons The Verge . Però, tot i que es va eliminar l’original, es van passar còpies del vídeo a Twitter i a altres llocs de xarxes socials.
Facebook va denunciar públicament l’esdeveniment.
'Es tracta d'un crim horrible i no permetem aquest tipus de contingut a Facebook', va dir un portaveu en un comunicat de l'època. 'Treballem dur per mantenir un entorn segur a Facebook i estem en contacte amb les forces de l'ordre en casos d'emergència quan hi ha amenaces directes a la seguretat física'.
La caça d'home del tirador va concloure finalment quan es va disparar fatalment durant una persecució policial el 18 d'abril.
L'escriptora cultural Emily Dreyfuss va explicar l'impacte cultural de l'assassinat a Wired .
'Des del seu llançament, Live ha proporcionat una mirada inèdita sobre trets policials, violacions, tortures i prou suïcidis que Facebook integrarà eines de prevenció del suïcidi en temps real a la plataforma', va escriure Dreyfuss. 'I tot i que els testimonis han capturat assassinats a Facebook Live —i fins i tot han matat persones mentre es dirigien al servei—, sembla que és la primera vegada que un assassí s'ha transmès en streaming preparant-se per cometre un homicidi, i després penja l'acte com va passar.
La família de Robert Goodwin Sr, la víctima de 74 anys, va continuar demandant Facebook el gener del 2018. Al·legaven que Facebook no va prendre les mesures suficients per alertar les autoritats de l'amenaça que representava públicament Stephens als seus vídeos de manera oportuna. .
'Facebook s'enorgulleix de tenir la capacitat de recopilar i analitzar, en temps real, i després vendre [una] àmplia gamma d'informació perquè altres puguin identificar i orientar específicament els usuaris per a diversos propòsits comercials', diu la demanda, segons BuzzFeed News .
En resposta a la demanda, l’assessora general associada de Facebook, Natalie Naugle, va emfatitzar el compromís de la companyia amb la integritat dels usuaris.
'Volem que la gent se senti segura utilitzant Facebook, per això tenim polítiques que prohibeixen amenaces directes, atacs, amenaces greus de danys a la seguretat pública i personal i altres activitats delictives', Naugle va dir a CNN . 'Donem a la gent eines per informar de contingut que infringeix les nostres polítiques i prendre mesures ràpides per eliminar el contingut que infringeixi el contingut quan se'ns informa. Simpatitzem amb la família de la víctima, que va patir una pèrdua tan tràgica i insensata ”.
La demanda va ser finalment desestimada pel jutge dels plets comuns del comtat de Cuyahoga, Timothy McCormick, el 5 d'octubre. segons Fox 8 Cleveland .
'Els acusats de Facebook ... tenen la capacitat única de controlar tots els aspectes de la relació mentre l'ús participa en serveis oferts per Facebook i tercers socis', va dir McCormick. 'El control de la relació no equival al control de la pròpia persona. Això només significa que l’acusat de Facebook pot controlar com els usuaris com Stephens utilitzen les seves plataformes. No vol dir que tinguin la capacitat de controlar les accions de Stephens fora de línia '.
Andy Kabat, advocat de la família Godwin, no va oferir cap comentari sobre el cas.
La situació de Stephens és un exemple d'una controvèrsia més estesa que prolifera en el panorama digital actual: a mesura que augmenta la popularitat de la transmissió en directe i el vídeo, com moderaran els continguts criminals les empreses de xarxes socials en el futur?
Tot i que el fenomen és relativament nou (és a dir, gairebé no hi ha estadístiques sobre el grau de difusió), Facebook ha estat reiteradament criticada per la seva manca d’acció sobre aquest tema, malgrat les declaracions públiques de la companyia. Mark Zuckerberg, CEO de Facebook, fins i tot va fer una breu menció al vídeo en un discurs a l’abril de 2018.
'Tenim molta feina i seguirem fent tot el possible per evitar que es produeixin tragèdies com aquesta', va dir Zuckerberg a l'escenari de F8, la conferència anual de desenvolupadors de Facebook, entre promeses sobre el desenvolupament d'intel·ligència artificial que ajudaria a eliminar-les. tipus de vídeos del lloc, segons CNN . 'El nostre cor es dirigeix a la família i als amics de Robert Godwin Sr.'
Justin Osofsky, vicepresident d’Operacions Globals de Facebook, es va fer ressò dels sentiments de Zuckerberg.
'Sabem que hem de fer-ho millor', va dir Osofsky.
Les promeses públiques que Facebook ha fet sobre els seus avenços en aquesta àrea no reflecteixen les reticències que la companyia ha mostrat de vegades quan s’enfronta a aquests problemes. Per exemple, l’empresa ho havia dit al New York Times el 2014, que no tenia previst utilitzar algoritmes per cercar contingut que infringeixi determinades polítiques o que causi ofensa, perquè no volia afectar la llibertat d'expressió dels usuaris.Kate Klonick, professora ajudant de la Facultat de Dret de la Universitat de St. John i autora d'una extensa revisió jurídica de les pràctiques de moderació de contingut de xarxes socials, van dir a la placa base que el 2018 això ha estat un problema.
'La gent suposa que sempre ha tingut algun tipus de pla en comparació amb el desenvolupament d'aquestes regles: apagar incendis i una ràpida resposta de relacions públiques a terribles desastres de relacions públiques tal com van passar', va dir Klonick dit . 'No hi ha hagut cap moment en què hagin tingut l'oportunitat de ser filosòfics al respecte, i les regles ho reflecteixen realment'.
Sarah T. Roberts, professora assistent d'UCLA que estudia la moderació de contingut en línia, va explicar alguns dels processos que realment fa Facebook.
'En realitat són els usuaris els que estan exposats a alguna cosa que troben inquietant, i després comencen aquest procés de revisió', va dir Roberts. CNN .
'Hi ha sectors industrials complets dedicats a eliminar aquest tipus de contingut i no els falten negocis', va afegir Roberts a Wired .
L'ètica de la moderació del contingut generalitzada s'està convertint en un tema molt debatut entre els crítics sobre l'expansió i l'omnipresència de les xarxes socials.Psicòloga políticaEl doctor Bart Rossi va condemnar Facebook el 2017 arran de la filtració de documents de directrius de moderadors a la plataforma.
'Facebook ha d'inclinar-se en una direcció particular a l'hora de moderar el contingut ... una' precaució primordial ', va dir Rossi a Forbes . 'L'obertura és important i honesta, les plataformes de xarxes socials responsables no han de ser rígides ni unilaterals. Quan es tracta d’exposar l’autolesió, el suïcidi, la pornografia, els actes violents i els comportaments extrems perillosos, la plataforma: Facebook no hauria de permetre ni especialment minimitzar aquest contingut.
Encara s’està teoritzant les explicacions sociològiques de per què els delictes de transmissió en directe continuen sent populars.
La psicòloga mediàtica Pamela Rutledge li va oferir la seva teoria El guardià .
mestres que van dormir amb estudiants
'Les xarxes socials són la nova manera de presumir perquè aquells que cometen delictes adquireixin una sensació de poder propi o importància pròpia. Ara el públic és més nombrós i, potser, més seductor per a aquells que cometen actes antisocials per cobrir les necessitats personals d’autoamplitud ”, va dir Rutledge.
Raymond Surette, professor de justícia penal de la Universitat del centre de Florida, va oferir una hipòtesi més contundent.
“Em ve al cap la ximpleria. També podeu baixar a la comissaria de policia i cometre el crim al vestíbul ”, va dir Surette va dir a The Guardian . 'Històricament sempre hi ha hagut delictes comesos pensant en l'audiència, però s'ha produït un soroll de fons de baix nivell en el panorama general del delicte ... [Avui en dia] cometre un delicte per a un públic mai ha estat tan fàcil!
'És millor ser famós per ser dolent que ser desconegut. La criminalitat s’ha convertit en part del nostre món d’entreteniment i entreteniment ”, va afegir Surette. “Abandonar-se a un cas penal solia ser un assassí professional. Ara sembla que per a moltes celebritats més joves una mica de criminalitat pot ser un bon dispositiu de transició per a la vostra carrera.
