Algoritmo de detección de incitación al o***io de Facebook: 90% del discurso de o***io dirigido a personas blancas y hombres

[InkeyZero]

https://en-volve.com/2021/12/04/faceboo ... e-and-men/

El algoritmo 'racialmente ciego' de Facebook fracasa en su cara: encuentra que el 90% del 'discurso de o***io' estaba dirigido a personas blancas y hombres

Ahora sabemos por qué Facebook decidió cambiar el año pasado su algoritmo de detección de discursos de o***io "ciegos a la raza" para permitir más o***io contra los blancos.
The Washington Post informó la semana pasada que un "documento de abril de 2020 decía que aproximadamente el 90 por ciento del 'discurso de o***io' sujeto a eliminación de contenido eran declaraciones de desprecio, inferioridad y disgusto dirigidas a las personas blancas y a los hombres".

Vieron esto como una falla del sistema porque se supone que los blancos son el objetivo de todo el o***io.

El Washington Post informó:

El portavoz de Facebook, Andy Stone, defendió las decisiones de la empresa en torno a sus políticas de incitación al o***io y cómo llevó a cabo su relación con los auditores de derechos civiles.

“El proyecto Worst of the Worst ayudó a mostrarnos qué tipo de discurso de o***io era y no detectaba y comprendía de manera efectiva qué formas de o***io la gente cree que son las más insidiosas”, dijo Stone en un comunicado.

Dijo que el progreso en cuestiones raciales incluía políticas como la prohibición de grupos nacionalistas blancos, la prohibición de contenido que promoviera estereotipos raciales, como personas con la cara pintada de negro o afirmaciones de que los judíos controlan los medios, y la reducción de la prevalencia del discurso de o***io al 0,03 por ciento del contenido en la plataforma.

[…] Estos hallazgos sobre el contenido más objetable se mantuvieron incluso entre los conservadores blancos autoidentificados que el equipo de investigación de mercado viajó para visitar en los estados del sur. Los investigadores de Facebook buscaron las opiniones de los conservadores blancos en particular porque querían superar las posibles objeciones de los líderes de la empresa, que era conocida por apaciguar los puntos de vista de derecha, dijeron dos personas.

Sin embargo, las publicaciones racistas contra las minorías no eran lo que los propios algoritmos de detección de discursos de o***io de Facebook encontraban con mayor frecuencia. Se suponía que el software, que la compañía presentó en 2015, detectaría y eliminaría automáticamente el discurso de o***io antes de que los usuarios lo vieran. Públicamente, la compañía dijo en 2019 que sus algoritmos detectaron de manera proactiva más del 80 por ciento del discurso de o***io.

Pero esta estadística escondía un problema grave que era obvio para los investigadores: el algoritmo detectaba agresivamente los comentarios que denigraban a los blancos más que los ataques a cualquier otro grupo, según varios de los documentos. Un documento de abril de 2020 decía que aproximadamente el 90 por ciento del "discurso de o***io" sujeto a eliminación de contenido eran declaraciones de desprecio, inferioridad y disgusto dirigidas a las personas blancas y los hombres, aunque el marco de tiempo no está claro.