Doble filo: cómo la inteligencia artificial te juega en contra en el día a día y 7 claves para evitarlo

Nota realizada por Iprop

¿Cómo estar prevenidos para que no nos afecte?

La Inteligencia Artificial es la próxima gran revolución y una fuente de temores y amenazas en dosis iguales. Dentro de esta última categoría se ubica el Slop, un concepto que adquiere cada vez mayor relevancia y puede generar mucho daño en los usuarios.

Inteligencia Artificial: qué es el Slop

El Slop (siglas en inglés de aprendizaje y optimización estructurado) está asociado a la imprecisión o ruido en los datos y procesos de aprendizaje de un modelo de IA, según indica a iProUP explica David Pérez, services Manager de Security Advisor.

Esto puede generarse a partir de datos mal etiquetados, errores en su recopilación o fluctuaciones aleatorias sin patrones reales. Como ejemplo, Pérez señala que el caso «una información faltante o incorrecta en una historia clínica, que puede derivar en una predicción errada en un modelo de diagnóstico».

María Isabel Manjarrez, analista de seguridad de Kaspersky, señala a iProUP que Slop es el término que se usa para referirse al contenido basura generado por la IA generativa.

La experta revela que «el término también suele ser traducido como bazofIA y tiene como finalidad monetizar de alguna forma, generando visitas a un sitio web o a un perfil en redes sociales a través de la publicidad».

• Libro electrónico sobre hongos publicado en Amazon que contiene recomendaciones potencialmente mortales
• Google sugiriendo que se puede agregar ingredientes tóxicos a un platillo que puede parecerse a la receta que se está buscando
• Imágenes carentes de sentido en redes sociales, como niños en autos hechos de botellas de plástico; casas de ensueño falsas y mujeres increíblemente ancianas que dicen tener 122

Fredi Vivas, ingeniero, profesor de IA y CEO de RockingData, define al Slop como el contenido que no suma nada y nadie quiere recibir, igual que el spam, pero creado con inteligencia artificial generativa.

Según el experto, «pronto se empezará a hablar mucho más de esto: una Internet plagada de bots o usuarios ficticios, intentando convencerte de algo»:

«Es preocupante, porque vamos a tener IA generando textos que a su vez será la base de otros nuevos generados por otra IA. Algo así como un envenenamiento de la calidad del contenido», alerta Vivas.

A su vez, remarca, esto generará que los algoritmos de búsqueda no entiendan qué está pasando y sea cada vez más difícil encontrar buen contenido entre tanta basura.

Inteligencia artificial: ¿cuánto daño puede hacer el Slop?

Lo más peligroso del Slop es que la ausencia de supervisión humana lo convierte en una arma poderosísima de manipulación.

«Esto afecta a los usuarios que no solo reciben una gran cantidad de contenido que no quieren consumir antes de llegar a la información necesaria, sino que mucha por la que deben pasar puede no ser necesariamente verdadera, de buena calidad o incluso dañina para la salud», subraya Manjarrez.

El fenómeno se relaciona con el concepto de infodemia, que se refiere a la rápida difusión y amplio alcance de la información, tanto falsa como verdadera, sobre un tema determinado, agrega Manjarrez.

Según Pérez, el Slop, además de generar recomendaciones incorrectas y diagnósticos médicos erróneos, puede generar problema de seguridad y privacidad.

Por ejemplo, un sistema de reconocimiento facial puede registrar altos porcentajes de falsos positivos o negativos debido a datos imprecisos, permitiendo el acceso a personas no autorizadas o negándoselo a las que sí lo están. O asistentes virtuales y chatbots que pueden proporcionar respuestas incorrectas o no comprenden las solicitudes de los usuarios.

«El Slop es totalmente dañino para los usuarios. Esto va a ser un problema que tendrán que atacar las grandes plataformas digitales como Google, Microsoft y OpenAI. Deberán buscar la manera de minimizar ese impacto», anticipa Vivas.

Una forma es lograr que el contenido generado artificialmente sea más detectable para los usuarios, tal como ya lo hacen plataformas como Instagram, que ponen una etiqueta que advierte sobre el contenido generado por IA.

Slop: cómo estar prevenidos

Vivas recomienda: «No podés confiar en lo que ves, en lo que leés, ni en lo que escuchás. Más allá de que se trate de un texto real o artificial, hay que dudar. Eso nos obliga a estar mucho más despiertos como usuarios de Internet».

«Es el mundo que se viene, en el que detectar lo real de lo irreal se vuelve cada vez más complejo. Habrá que recurrir a las fuentes y medios de comunicación de confianza, chequeando el contenido y garantizando la veracidad. Se vuelve cada vez más importante ese trabajo periodístico», asegura.