El que ens ensenya el debacle GIF racista sobre el discurs d'odi en línia

Giphy va tornar tant a Snapchat com a Instagram després de la seva ràpida i senzilla eliminació el mes passat després del descobriment d’un GIF explícitament racista que representava un comptador cada vegada més gran de 'mort per crim amb paraules N' arrencat per un goril·la.





D'acord amb The Verge , Giphy va dir que el GIF va passar per 'un error en els nostres filtres de moderació de contingut que afecten específicament els adhesius GIF', cosa que li permet evitar les normes de la plataforma que prohibeixen als usuaris publicar aquest contingut. Giphy va corregir l’error i Instagram i Snapchat el van afegir.

Tot i que aquest incident es va resoldre quan el públic el va detectar, és notablement diferent del passat fals. Instagram i Snapchat van treure l’aplicació de forma immediata i pública. No hi havia cap racionalització, ni invocació de la Primera Esmena, només una disculpa ferma i concisaicorrecció.



Tots els mitjans de comunicació social (des de Facebook a Twitter fins a Reddit) s’han enfrontat a la inevitable qüestió de com fer front al contingut tòxic i perjudicial, sobretot després d’un clam públic. Facebook ha estat tractant una sèrie de problemes de privadesa darrerament, però encara no ha lluitat contra el racisme i els discursos d'odi a les seves plataformes. Fa poc Facebook va donar a entendre que sí fins que els usuaris decideixin condemnar la pedofília mitjançant una enquesta, tot permetent silenciosament als anunciants fer-ho objectiu 'odiadors de jueus' i altres grups d’odi a Amèrica i al món, segons les recents troballes de ProPublica. El Noticies de Nova York informa que aquesta política fins i tot va provocar tensions a Myanmar, on Facebook va acceptar anuncis que atacaven la població minoritària rohingya allà. En context, Facebook ha prohibit a les dones parlar de les seves experiències personals, segons Atordit .



Farà Facebook alguna cosa sobre el discurs d’odi a la seva plataforma? La intel·ligència artificial adequada 'encara no hi és', diu el CEO, Mark Zuckerberg. Va dir que podrien trigar de cinc a deu anys a solucionar el programari que suposadament identificava els discursos d’odi, segons el seu testimoni abans del Congrés dels Estats Units el 10 d'abril. Però, mentre que Zuckerberg cita els matisos lingüístics com a motiu del fracàs de la IA, Facebook també suposadament va suprimir la llibertat d'expressió ajudant el govern vietnamita a eliminar el contingut dissident. I com Pissarra explicada l'any passat , 'De cinc a deu anys' tendeix a ser la frase negativa de les organitzacions relacionades amb la tecnologia que prometen des de l'eliminació de la quimioteràpia fins als cotxes voladors.



Facebook s’enfronta preguntes incòmodes ara mateix, però no és l’únic. Reddit, una part possiblement més ombrívola d'Internet, va permetre que Nova Yorker a les seves oficines per veure el progrés de la desintoxicació, que consisteix en un personal humà que pentina per subredits per determinar el mal que ha de ser alguna cosa per tancar-lo. Reddit va actualitzar les polítiques l'any passat al voltant del moment en què va trobar contingut misògin violent en el subredit de r / incels, segons Vici .

Twitter encara ha de respondre per què els usuaris que llancen contingut afiliat als neonazis poden romandre a la plataforma, mentre que, segons els informes, altres usuaris troben que defensen els abusos a Internet pot prohibir-los en lloc de l'abusador. L’any passat va començar Twitter eliminant la marca de verificació verificada d’usuaris populars associats amb moviments d’alt-dreta, però supremacistes blancs com Richard Spencer ja van utilitzar l’aplicació per difondre missatges violents. Ara, Twitter estudia eliminar comptes de bot que difonen desinformació divisiva .



La frustració del públic és palpable, i potser l’única força motriu darrere de qualsevol canvi. Unilever, un dels anunciants més grans del món, va publicar al febrer la possibilitat de fregar anuncis de Facebook si no segueix regulant els discursos d’odi. El Washington Post va informar que la manca de regulacions federals sobre la indústria tecnològica empeny els governs estatals a actuar. Califòrnia, on tenen la seu la majoria de les empreses tecnològiques, està elaborant legislació per fer front als robots de les xarxes socials. Maryland, Nova York i Washington segueixen molt a prop, impulsant les factures que fan que els anuncis polítics en línia siguin més transparents per als votants després de l’escàndol Cambridge Analytica de Facebook.

Tot i que Instagram és propietat de Facebook, va abordar el problema del GIF racista ràpidament. Les accions de Snapchat han disminuït en gran mesura que les celebritats van expressar queixes sobre això Kylie Jenner preguntant si algú l’utilitzava més i Rihanna deixar d'aplicació després que un anunci demanés als usuaris si preferien donar-li una bufetada o un cop de puny a Chris Brown.

L'incident del GIF marca un moment de recompte per a les plataformes de xarxes socials que prèviament han utilitzat la Primera Esmena com a escut. La velocitat de la resolució indica un canvi de potència, sobretot perquè els usuaris de xarxes socials suprimeixen comptes i comencen a supervisar la seva pròpia configuració de privadesa. A mesura que la gent es retira d’Internet, és important veure com les grans empreses tecnològiques i mediàtiques s’enfronten al seu lloc a la societat i al que els usuaris els exigeixen. Ens han guanyat diners durant massa temps. És hora de rendir comptes.

[Foto: Getty Images]

millors pel·lícules basades en el crim de la història real
Entrades Populars