El futuro más negro de la IA se atisba en los sitios más oscuros de la Web
La inteligencia artificial puede crear peligrosas olas de desinformación
Stuart A. Thompson
En la Web hay foros, como 4chan, conocidos por fomentar el odio mediante archivos manipulados
Cuando el Consejo de libertad condicional de Luisiana se reunió en octubre para debatir la posible liberación de un asesino convicto, recurrió a una médica con años de experiencia en materia de salud mental para hablar sobre el recluso. Pero un conjunto de troles de internet realizó capturas de pantalla con la imagen de la doctora, tomadas durante una transmisión en línea de su testimonio, y editaron las imágenes con herramientas de inteligencia artificial para hacerla aparecer desnuda. Luego, compartieron los archivos manipulados en 4chan, un foro de mensajes anónimo conocido por fomentar el acoso, así como por difundir contenido de odio y teorías conspirativas.
Fue una de las numerosas veces que los usuarios de 4chan han utilizado herramientas nuevas de ia, como editores de audio y generadores de imágenes, para difundir contenidos racistas y ofensivos sobre personas que han comparecido ante el consejo de libertad condicional, según Daniel siegel, estudiante de posgrado de la Universidad de Columbia que investiga la explotación de la inteligencia artificial con fines malintencionados.
Las imágenes y el audio manipulados no han trascendido los confines de 4chan, comentó siegel. sin embargo, los expertos que vigilan los foros marginales afirman que esas actividades ofrecen una idea de cómo los usuarios más nefastos de internet podrían emplear herramientas de ia con el fin de potenciar las campañas de acoso y odio en línea en los próximos años.
Callum hood, director de investigación del Centro para Contrarrestar el odio Digital, dijo que sitios marginales como 4chan –quizás el más infame de todos– a menudo daban señales tempranas de cómo se utilizaría la nueva tecnología con el objetivo de proyectar ideas extremas. esas plataformas, dijo, están llenas de jóvenes que “adoptan nuevas tecnologías de manera muy rápida”, como en el caso de la ia, para “proyectar su ideología en espacios dominantes”. Algunos usuarios de plataformas en línea más populares a menudo adoptan esas tácticas, dijo hood.
A continuación, describiremos varios problemas derivados de las herramientas de ia
que los expertos descubrieron en 4chan y lo que los reguladores y las empresas tecnológicas están haciendo al respecto. Imágenes artificiales y pornografía creada con IA. Las herramientas de IA como Dalle y Midjourney generan imágenes nuevas a partir de simples descripciones de texto. Pero una nueva ola de generadores de imágenes de IA se está fabricando con el propósito de crear pornografía falsa, incluso la eliminación de ropa de imágenes existentes. “Pueden utilizar la IA para crear una imagen de exactamente lo que quieren”, afirmó Hood sobre las campañas de odio y desinformación en la red.
No hay ninguna ley federal en EE. UU. que prohíba la creación de imágenes falsas de personas, por lo que grupos como el consejo de libertad condicional de Luisiana tienen dificultades para averiguar qué se puede hacer. “Sin duda nos opondremos a cualquier imagen creada en la que nuestros miembros o cualquier participante de nuestras audiencias sea representado de manera negativa”, dijo Francis Abbott, director ejecutivo del Consejo de libertad condicional. “Pero debemos apegarnos a la ley y otra instancia tendrá que señalar si se infringen leyes o no”.
Illinois amplió su ley sobre pornovenganza para permitir que las víctimas de pornografía no consentida realizada mediante sistemas de inteligencia artificial puedan demandar a los creadores o distribuidores. California, Virginia y Nueva York también han aprobado leyes que prohíben la distribución o creación de pornografía generada por IA sin consentimiento.
La clonación de voces. A finales del año pasado, Elevenlabs, una empresa dedicada a la inteligencia artificial, lanzó una herramienta capaz de crear una réplica digital convincente de la voz de una persona que puede decir cualquier cosa que se teclee en el programa. Cuando la herramienta se puso en marcha, los usuarios de 4chan hicieron circular clips de una falsa Emma Watson, actriz británica, leyendo el manifiesto de Adolf Hitler,
Mi lucha.
Desde entonces, utilizando contenidos de las audiencias del Consejo de libertad condicional de Luisiana, los usuarios de 4chan han compartido clips falsos de jueces que pronuncian comentarios ofensivos y racistas sobre los acusados. Muchos de los audios fueron generados por la herramienta de Elevenlabs, según Siegel, que utilizó un identificador de voz de IA desarrollado por Elevenlabs para investigar sus orígenes.
Elevenlabs se apresuró a imponer límites, entre ellos exigir a los usuarios que paguen antes de acceder a las herramientas de clonación de voz. Pero los cambios no parecieron frenar la propagación de las voces creadas por IA, según los expertos. Decenas de videos con voces falsas de famosos han circulado por Tiktok y Youtube, muchos de ellos difundiendo desinformación política.
Algunas de las principales empresas de redes sociales, como Tiktok y Youtube, han exigido que se etiqueten algunos contenidos creados con IA.
El presidente Joe Biden emitió una orden ejecutiva en octubre en la que requería a todas las empresas que etiquetaran esos contenidos y ordenaba al Departamento de Comercio que elaborara normas para poner marcas de agua y autenticar los contenidos de IA. Herramientas personalizadas de IA. En su afán por afianzarse en la carrera de la inteligencia artificial, Meta ha adoptado la estrategia de poner su código de software a disposición de los investigadores. Este enfoque, conocido como “código abierto”, puede acelerar el desarrollo al dar a académicos y tecnólogos acceso a más materia prima para encontrar mejoras y desarrollar sus propias herramientas.
En febrero, cuando la empresa puso Llama, su gran modelo lingüístico, a disposición de investigadores seleccionados, el código se filtró rápidamente en 4chan. Allí la gente lo utilizó con distintos fines: modificaron el código para rebajar o eliminar las barreras de seguridad, creando nuevos chatbots capaces de producir ideas antisemitas.
La iniciativa sirvió de anticipo de cómo las herramientas de IA de código abierto y uso gratuito pueden ser modificadas por usuarios expertos en tecnología.
En los meses transcurridos desde entonces, se han desarrollado modelos lingüísticos que hacen eco de los temas de debate de la extrema derecha o que crean contenidos sexualmente más explícitos. Los usuarios de 4chan han modificado los generadores de imágenes para producir imágenes de desnudos o proporcionar memes racistas, eludiendo los controles impuestos por las grandes empresas tecnológicas.
El Foro de Davos reveló que en tanto la crisis climática representa el mayor riesgo para la humanidad en el largo plazo, en el corto plazo el peligro es la desinformación. Expertos mundiales se manifestaron preocupados por el potencial de la IA para inundar los sistemas de información globales con narrativas falsas, en el caso de que caigan en manos de actores inescrupulosos
Cuando el Consejo de libertad condicional de Luisiana se reunió en octubre para debatir la posible liberación de un asesino convicto, recurrió a una médica con años de experiencia en materia de salud mental para hablar sobre el recluso. Pero un conjunto de troles de internet realizó capturas de pantalla con la imagen de la doctora, tomadas durante una transmisión en línea de su testimonio, y editaron las imágenes con herramientas de inteligencia artificial para hacerla aparecer desnuda. Luego, compartieron los archivos manipulados en 4chan, un foro de mensajes anónimo conocido por fomentar el acoso, así como por difundir contenido de odio y teorías conspirativas.
Fue una de las numerosas veces que los usuarios de 4chan han utilizado herramientas nuevas de ia, como editores de audio y generadores de imágenes, para difundir contenidos racistas y ofensivos sobre personas que han comparecido ante el consejo de libertad condicional, según Daniel siegel, estudiante de posgrado de la Universidad de Columbia que investiga la explotación de la inteligencia artificial con fines malintencionados.
Las imágenes y el audio manipulados no han trascendido los confines de 4chan, comentó siegel. sin embargo, los expertos que vigilan los foros marginales afirman que esas actividades ofrecen una idea de cómo los usuarios más nefastos de internet podrían emplear herramientas de ia con el fin de potenciar las campañas de acoso y odio en línea en los próximos años.
Callum hood, director de investigación del Centro para Contrarrestar el odio Digital, dijo que sitios marginales como 4chan –quizás el más infame de todos– a menudo daban señales tempranas de cómo se utilizaría la nueva tecnología con el objetivo de proyectar ideas extremas. esas plataformas, dijo, están llenas de jóvenes que “adoptan nuevas tecnologías de manera muy rápida”, como en el caso de la ia, para “proyectar su ideología en espacios dominantes”. Algunos usuarios de plataformas en línea más populares a menudo adoptan esas tácticas, dijo hood.
A continuación, describiremos varios problemas derivados de las herramientas de ia
que los expertos descubrieron en 4chan y lo que los reguladores y las empresas tecnológicas están haciendo al respecto. Imágenes artificiales y pornografía creada con IA. Las herramientas de IA como Dalle y Midjourney generan imágenes nuevas a partir de simples descripciones de texto. Pero una nueva ola de generadores de imágenes de IA se está fabricando con el propósito de crear pornografía falsa, incluso la eliminación de ropa de imágenes existentes. “Pueden utilizar la IA para crear una imagen de exactamente lo que quieren”, afirmó Hood sobre las campañas de odio y desinformación en la red.
No hay ninguna ley federal en EE. UU. que prohíba la creación de imágenes falsas de personas, por lo que grupos como el consejo de libertad condicional de Luisiana tienen dificultades para averiguar qué se puede hacer. “Sin duda nos opondremos a cualquier imagen creada en la que nuestros miembros o cualquier participante de nuestras audiencias sea representado de manera negativa”, dijo Francis Abbott, director ejecutivo del Consejo de libertad condicional. “Pero debemos apegarnos a la ley y otra instancia tendrá que señalar si se infringen leyes o no”.
Illinois amplió su ley sobre pornovenganza para permitir que las víctimas de pornografía no consentida realizada mediante sistemas de inteligencia artificial puedan demandar a los creadores o distribuidores. California, Virginia y Nueva York también han aprobado leyes que prohíben la distribución o creación de pornografía generada por IA sin consentimiento.
La clonación de voces. A finales del año pasado, Elevenlabs, una empresa dedicada a la inteligencia artificial, lanzó una herramienta capaz de crear una réplica digital convincente de la voz de una persona que puede decir cualquier cosa que se teclee en el programa. Cuando la herramienta se puso en marcha, los usuarios de 4chan hicieron circular clips de una falsa Emma Watson, actriz británica, leyendo el manifiesto de Adolf Hitler,
Mi lucha.
Desde entonces, utilizando contenidos de las audiencias del Consejo de libertad condicional de Luisiana, los usuarios de 4chan han compartido clips falsos de jueces que pronuncian comentarios ofensivos y racistas sobre los acusados. Muchos de los audios fueron generados por la herramienta de Elevenlabs, según Siegel, que utilizó un identificador de voz de IA desarrollado por Elevenlabs para investigar sus orígenes.
Elevenlabs se apresuró a imponer límites, entre ellos exigir a los usuarios que paguen antes de acceder a las herramientas de clonación de voz. Pero los cambios no parecieron frenar la propagación de las voces creadas por IA, según los expertos. Decenas de videos con voces falsas de famosos han circulado por Tiktok y Youtube, muchos de ellos difundiendo desinformación política.
Algunas de las principales empresas de redes sociales, como Tiktok y Youtube, han exigido que se etiqueten algunos contenidos creados con IA.
El presidente Joe Biden emitió una orden ejecutiva en octubre en la que requería a todas las empresas que etiquetaran esos contenidos y ordenaba al Departamento de Comercio que elaborara normas para poner marcas de agua y autenticar los contenidos de IA. Herramientas personalizadas de IA. En su afán por afianzarse en la carrera de la inteligencia artificial, Meta ha adoptado la estrategia de poner su código de software a disposición de los investigadores. Este enfoque, conocido como “código abierto”, puede acelerar el desarrollo al dar a académicos y tecnólogos acceso a más materia prima para encontrar mejoras y desarrollar sus propias herramientas.
En febrero, cuando la empresa puso Llama, su gran modelo lingüístico, a disposición de investigadores seleccionados, el código se filtró rápidamente en 4chan. Allí la gente lo utilizó con distintos fines: modificaron el código para rebajar o eliminar las barreras de seguridad, creando nuevos chatbots capaces de producir ideas antisemitas.
La iniciativa sirvió de anticipo de cómo las herramientas de IA de código abierto y uso gratuito pueden ser modificadas por usuarios expertos en tecnología.
En los meses transcurridos desde entonces, se han desarrollado modelos lingüísticos que hacen eco de los temas de debate de la extrema derecha o que crean contenidos sexualmente más explícitos. Los usuarios de 4chan han modificado los generadores de imágenes para producir imágenes de desnudos o proporcionar memes racistas, eludiendo los controles impuestos por las grandes empresas tecnológicas.
El Foro de Davos reveló que en tanto la crisis climática representa el mayor riesgo para la humanidad en el largo plazo, en el corto plazo el peligro es la desinformación. Expertos mundiales se manifestaron preocupados por el potencial de la IA para inundar los sistemas de información globales con narrativas falsas, en el caso de que caigan en manos de actores inescrupulosos
http://indecquetrabajaiii.blogspot.com.ar/. INDECQUETRABAJA
No hay comentarios.:
Publicar un comentario
Nota: sólo los miembros de este blog pueden publicar comentarios.