Una mujer argentina identificada como Flavia Broffoni, politóloga y escritora, se convirtió en víctima de amenazas severas luego de que un sistema de inteligencia artificial la confundiera con una persona que aparecía en un video grabado en Ceuta, España. El error de identificación desencadenó una serie de comunicaciones hostiles dirigidas en su contra.
Los mensajes que recibió Broffoni incluían amenazas de homicidio, violación y otros ataques de carácter grave. Todo comenzó a partir de la conexión falsa establecida por el algoritmo entre ella y una activista de Ceuta. A través de emails y otras vías de contacto, la ola de amenazas continuó expandiéndose, en lo que fue descrito como una verdadera «catarata» de mensajes malintencionados.
La situación ilustra una problemática que crece junto con la adopción masiva de tecnologías de inteligencia artificial: los errores de estos sistemas pueden tener repercusiones serias para las personas identificadas equivocadamente. Lo que comienza como un fallo algorítmico puede transformarse en un problema de seguridad muy real.
Broffoni no cometió acción alguna que justificara las amenazas; fue simplemente identificada incorrectamente. Sin embargo, una vez que esa identificación errónea fue generada por la máquina, adquirió una vida propia en internet, propagándose a través de múltiples canales y generando un entorno hostil.
El caso plantea desafíos importantes para reguladores, desarrolladores de tecnología y plataformas digitales. ¿Quién es responsable cuando un algoritmo comete un error que resulta en daño físico o emocional a una persona? ¿Qué mecanismos de corrección y protección deberían existir? ¿Cómo pueden las personas defenderse de identificaciones incorrectas generadas por máquinas?
La experiencia de Broffoni evidencia que los riesgos de la inteligencia artificial no son teóricos ni lejanos: son problemas concretos que afectan a personas reales, generando situaciones de acoso y peligro basadas simplemente en errores técnicos. Este caso es un llamado a reflexionar sobre cómo implementar estas tecnologías de forma más responsable y segura.
Con informacion de La Pampa 24
Deja un comentario