El gigante de los medios de comunicación social anuncia esfuerzo para eliminar el contenido extremista de la plataforma utilizando inteligencia artificial junto con el refuerzo de personal
Facebook dijo el jueves que estaba aumentando el uso de inteligencia artificial en un esfuerzo para hacer de la red social “un lugar hostil” para que terroristas y extremistas difundan mensajes de odio.
La presión ha estado creciendo sobre Facebook, junto con otros gigantes de Internet, acusados de hacer demasiado poco, demasiado tarde para erradicar el discurso de odio y a los reclutadores yihadistas de sus plataformas.
También puede interesarte
En una publicación conjunta en el blog, la directora de la gestión de políticas globales de la red social, Monika Bickert, y el director de políticas de contraterrorismo, Brian Fishman, dijeron que Facebook estaba comprometido a abordar el tema “de frente”.
“A raíz de los recientes ataques terroristas, la gente ha cuestionado el papel de las empresas de tecnología en la lucha contra el terrorismo en línea”, dijo Bickert y Fishman en el puesto.
“Queremos que Facebook sea un lugar hostil para los terroristas”, dijeron, añadiendo: “Creemos que la tecnología y Facebook pueden ser parte de la solución”.
Ellos describieron cómo la red está automatizando el proceso de identificar y eliminar el contenido yihadista vinculado al grupo islámico, al-Qaeda y sus afiliados, y tiene la intención de agregar otras organizaciones extremistas con el tiempo.
Tal tecnología ya se utiliza para bloquear la pornografía infantil de Facebook y otros servicios como YouTube, pero Facebook había sido reacio a aplicarla a otros usos potencialmente menos claros. En la mayoría de los casos, Facebook sólo elimina material objetable si los usuarios primero lo denuncian.
Pero la inteligencia artificial se está utilizando ahora, por ejemplo, para reconocer cuándo una imagen recién publicada o un vídeo coincide con uno que se sabe que ha sido previamente eliminado de la red social, que cuenta con casi dos mil millones de usuarios e incluye más de 80 idiomas.
Facebook también está experimentando con inteligencia de máquina para entender el lenguaje lo suficientemente bien como para identificar palabras o frases que elogian o apoyan el terrorismo, de acuerdo con la publicación. Y la red social está usando software para tratar de identificar “clusters” (grupos) centrados en el terrorismo de publicaciones, páginas o perfiles.
Facebook dijo que también ha mejorado en la detección de cuentas falsas creadas por “reincidentes” previamente arrancados de la red social por contenido extremista.
El esfuerzo se extiende a otras aplicaciones de Facebook, incluyendo WhatsApp e Instagram, según Bickert y Fishman.
Mientras tanto, porque AI (Inteligencia Artificial, por sus siglas en inglés) no puede coger todo y, a veces comete errores, Facebook también está reforzando su mano de obra: Anunció previamente que contratará 3.000 personas adicionales para rastrear y eliminar el contenido de vídeo violento.
“Constantemente estamos identificando nuevas formas en que los actores terroristas tratan de eludir nuestros sistemas – y actualizamos nuestras tácticas en consecuencia”, dijeron Bickert y Fishman.
La compañía actualmente emplea a más de 150 personas “exclusivamente o principalmente enfocadas en la lucha contra el terrorismo como principal responsabilidad”. Esto incluye expertos académicos en contraterrorismo, ex fiscales, ex agentes de la ley y analistas e ingenieros, según el blog.
Facebook, Twitter, Microsoft y YouTube, propiedad de Google, anunciaron una campaña el pasado mes de diciembre para detener la proliferación de videos yihadistas y mensajes que muestran decapitaciones, ejecuciones y otros contenidos espantosos.
Pero siguen bajo un intenso escrutinio y los líderes del G7 emitieron el mes pasado una convocatoria conjunta para que los proveedores de Internet y las empresas de medios sociales intensifiquen la lucha contra el contenido extremista en línea.
Fuente: The Times of Israel – Traducción: Silvia Schnessel – Reproducción autorizada con la mención siguiente: © EnlaceJudíoMéxico
