VIDA DIGITAL

Más artificial que Trump con ametralladora
De mínima, aparte de lo absurdo de la escena, el gesto impasible de los personajes involucrados tira abajo toda pretensión de verosimilitud
La civilización humana ha estado en peligro desde que existe, y no precisamente por videos inverosímiles; la pirotecnia de los algoritmos podría estar ocultando las verdaderas amenazas de la IA, y también sus virtudes
Ariel Torres
Todas las semanas circula alguna nueva abominación creada por medio de algoritmos de inteligencia artificial generativa o IAGen, para abreviar. Estos días los vimos a Trump, Harris, Obama, Musk (enseguida la explicación de qué hacía ahí), Zuckerberg (ídem), Biden y Putin andando armados por un supermercado, en actitud amenazante y, al final, esposados, arrestados y humillados. El video puede verse en este post de los Dor Brothers y fue hecho con Grok, el modelo de generación de imágenes de X.ai, la compañía fundada por Musk después de quedar en off side en este asunto de la inteligencia artificial. Zuckerberg vendría a ser daño colateral. La lagartija tiene que ver con otra pavada, una que viene dando vueltas desde al menos 2016, cuando las redes (cualquier cosa que eso signifique) empezaron a sugerir que Mark era una lagartija humana. En serio. El fundador de Facebook tuvo incluso que desmentirlo.
De suyo, cuando alguien replica un posteo como el de los Dor Brothers, aparte de aclararnos que el video ha sido creado artificialmente (gracias, no hacía falta), nos regala una reflexión que viene a encubrir una opinión infundada o, por lo menos, tirada de los pelos. En este caso, el razonamiento es así: como la IA acaba de arrancar (cierto) y como es muy probable que evolucione enormemente en el futuro (cierto), entonces se viene un futuro distópico en el que, de mínima, la civilización humana estará en peligro.
No tan cierto. La civilización humana siempre estuvo en peligro, y no precisamente por videos inverosímiles. Desde las grandes pandemias del pasado (empezando por la Plaga de Justiniano, entre los años 541 y 549, que dejó de 15 a 100 millones de muertos) hasta las armas nucleares de la Guerra Fría, esto de agitar la bandera del fin del mundo es un poquito ingenuo. Salvo, por supuesto, que le concedamos a la IA el control de las armas nucleares. En mayo, un mensaje conjunto de varias naciones occidentales instó a Rusia y China a comprometerse a esa misma política; no hubo respuesta.
Es muy posiblemente verdadero, no obstante, que la IAGen será capaz de crear muy pronto una cantidad suficiente de embustes multimedia como para engañar a un porcentaje significativo de la población. Observen que lo que importa, en este punto, es la escala, la cantidad. Y por significativo quiero decir que esos embustes artificiales (hay muchos creados a la antigua, dicho sea de paso) podrían alterar el resultado de unos comicios.
Kamala Harris arrestada luego de aterrorizar a los empleados; muy creible todo
Esto es malo para las democracias occidentales, donde intentamos organizar sociedades en las que todos tenemos voz y voto. Pero las fakes son de lo más conveniente para los totalitarismos, democracias de cartón pintado y otros sistemas en los que un conjunto ínfimo de poderosos controla los medios, la justicia electoral y, por supuesto, el Congreso, las leyes y los jueces.
Así que la IAGen y sus invenciones, de los que Trump, por ejemplo, está haciendo uso inmoderado, a lo sumo, podría hacer que un partido lo bastante inescrupuloso y con suficientes recursos triunfe en unos comicios en particular. Después, como ya sabemos, hay que gobernar, por lo que ahí ya resulta más difícil dibujarla, con o sin IA. (Dicho sea de paso, la dueña de The Atlantic, adonde apunta el link de arriba, es Laurenne Powell Jobs, la viuda del fundador de Apple, fallecido en 2011).
A largo plazo, también es cierto, podríamos especular con realidades sintéticas en las que una inmensa mayoría de seres humanos empobrecidos y degradados intentaría escapar del mundo distópico en el que se encuentra. Hay montones de películas que se basan en esta idea, que a mi juicio es disparatada. En todo caso, el verdadero problema es el mediano plazo. El largo ya ha mostrado muchas veces que no tiene nada que ver con lo que fantaseamos.
La larga cola de la mentira
En el mediano, la IA podría encontrarse con algo así como the long tail de las fakes. Para entender esto voy a exponer un anticipo que hice, equivocadamente, cuando era más joven, más ingenuo y, sobre todo, cuando todavía no había suficiente experiencia en estos asuntos para advertir patrones claros. Hace muchos años, más de veinte, pronostiqué que en el mediano plazo los actores de cine serían reemplazados por tecnología 3D, y que sería imposible distinguirlos de la realidad.
Eso no pasó. Veinte años es una enormidad de tiempo en nuevas tecnologías. Hace 20 años no existían ni el iPhone ni Twitter. Ni Facebook. Ni Netflix. Así que, simplemente, ese anticipo no se cumplió. La pregunta es por qué. Y la explicación es neurológica. Perceptual, si se quiere.
Dejemos de lado el olfato y el tacto, que por el momento no forman parte ni del cine ni de la propaganda política. El oído es fácil de engañar. Cualquier buen imitador podría hacerse pasar por un personaje público y tendríamos serios problemas. La IA es excepcional imitando voces. Y hay algo más. Si una persona suena algo rara, puede ser que esté resfriada o algo así; usan esto en el cuento del tío todo el tiempo. El obstáculo es que no podés conquistar el mundo por teléfono. Ahí, parecería, entran las deep fakes.
Los autores del nuevo deep fake se hacen llamar The Dor Brothers y publicaron el video el 21 de este mes
Ahí está el asunto. La vista se comporta de una forma muy diferente al oído. Sigue siendo fácil de engañar, pero el más mínimo error, hasta el más imperceptible, no solo nos pone en alerta, sino que nos hace dudar del total de lo que estamos viendo.
Por eso el 3D dio origen a un subgénero, llamado cine de animación, pero los actores siguen siendo irreemplazables. Cada vez los hacen mejor, cierto. Esa es la long tail. La diferencia entre 3D y realidad es una asíntota. Tiende a cero, pero nunca llega a ser cero (salvo en el infinito, en el caso de las asíntotas), y mientras no sea cero, nuestro cerebro notará la diferencia.
En total, me atrevería a bajarle un poco el tono a la amenaza de las fakes producidas por IAGen y me concentraría más en lo que claramente ya puede hacer. Esto es, cambiar sustancialmente el escenario laboral, producir ataques informáticos masivos y, lo que es tal vez peor, contribuir a la mediocridad generalizada que afecta al entretenimiento. Y a la política, ahora que lo pienso.

http://indecquetrabajaiii.blogspot.com.ar/. INDECQUETRABAJA