Prioridad para Facebook: rastrear y bloquear los contenidos peligrosos

La red bloquea 1.700 millones de cuentas en un trimestre y el 90% de estas no llegan a activarse. Acoso, incitación al odio, propaganda terrorista, cuentas falsas que manipulan la conversación entre internautas … Rastrear y bloquear los contenidos abusivos y peligrosos que buscan su canal de circulación en Facebook es la declarada prioridad de la red social con más usuarios del mundo, cuya imagen se ha visto lastrada por “errores” y “malas experiencias” como la emisión en directo de una masacre antimusulmana en Nueva Zelanda. Mediaron 17 minutos hasta que la filmación del propio asesino fue desactivada.

De los 1.700 millones de cuentas eliminadas por Facebook en el tercer trimestre del año, el 90% fueron interceptadas antes de que fueran activas, han explicado en Londres un grupo de expertos en producto e ingeniería que desarrollan las herramientas tecnológicas de la compañía. Ese dato ha sido posible gracias a los avances en el software a la hora de identificar contenidos que no cumplan los estándares fijados por la plataforma. Si la firma californiana dependía en sus inicios de que los usuarios alertaran sobre contenidos dudosos, a lo que siguió un proceso de revisión por parte de su personal, en el presente son los algoritmos los encargados de la detección automática de los materiales no deseados, aunque el proceso incluye equipos humanos que verifican la aplicación del software.

Hoy por hoy, la detección de antemano está por encima del 90% en muchos casos, pero resulta menos eficaz en áreas complejas como los discursos que propagan el odio y especialmente el acoso. Uno de los reiterados errores de la “máquina” –como los expertos reunidos en Londres denominan coloquialmente a la IA- es incurrir en “falsos positivos” y “falsos negativos”, es decir, en detectar irregularidades en un contenido cuando no las hay y viceversa.

Fuente: ElPaís

No hay comentarios! Sé el primero en comentar.

Tu dirección de correo electrónico no será publicada.