TECNOLOGÍA 1

Si se produce el caos, será muy tarde
Yuval Harari, Tristan Harris y Aza RaskiLa IA podría devorar rápidamente toda la cultura humana”, plantean Harari, Harris y Raski
Imaginen que están por abordar un avión y la mitad de los ingenieros que lo construyeron les dicen que hay un 10% de chances de que el avión se estrelle con todos adentro. ¿Se subirían igual?
En 2022, más de 700 altos académicos e investigadores que están detrás de las empresas líderes en inteligencia artificial (IA) respondieron a una encuesta sobre los futuros riesgos que plantea la IA. La mitad de los entrevistados dijeron que había un 10% o más de probabilidades de que los humanos se extinguieran –o de que sufran un desempoderamiento terminal y permanente– a causa de los sistemas de IA del futuro. O sea que las empresas tecnológicas que están desarrollando “modelos de lenguaje grande” (MLG) están embarcadas en una carrera para subir a toda la humanidad a ese avión…
Ninguna empresa farmacéutica puede comercializar nuevos medicamentos sin antes someter sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden liberar nuevos virus a la esfera pública para impresionar a sus accionistas por su inventiva. En ese misma línea, los sistemas de IA que tienen una potencia como la de GPT-4 –el MLG creado por OpenAI– no deberían introducirse en las vidas de miles de millones de personas a mayor velocidad de la que las sociedades pueden absorber sin desestabilizarse. La carrera para quedarse con el dominio del mercado no debe marcar la velocidad de implementación de la tecnología más importante que tienen actualmente de la humanidad. Debemos avanzar a un ritmo que nos permita hacerlo bien.
El espectro de la IA persigue a la humanidad desde mediados del siglo XX, pero hasta hace poco seguía siendo una perspectiva lejana, algo más propio de la ciencia ficción que de los debates científicos y políticos serios. A la mente humana le cuesta comprender las nuevas capacidades de GPT-4 y otras herramientas similares, y más todavía asimilar la velocidad exponencial con la que estas herramientas acrecientan sus propias habilidades. Pero la mayoría de las habilidades claves se reducen a una sola: la capacidad de generar y manipular lenguaje, ya sean palabras, sonidos o imágenes.
En el principio era la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje nacen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las alianzas, las naciones y el código informático. O sea que ahora que domina los modelos de lenguaje, la IA tiene la capacidad de hackear y manipular el sistema operativo de la civilización. Al adquirir el dominio del lenguaje, la IA se ha apoderado de la llave maestra de la civilización, capaz de abrir desde las bóvedas de los bancos hasta los santos sepulcros.
¿Qué significaría para nosotros vivir en un mundo donde gran porcentaje de las historias, melodías, imágenes, leyes, políticas y herramientas fueron moldeadas por una inteligencia no humana, que sabe cómo explotar con eficiencia sobrehumana todas las debilidades, los sesgos y las adicciones de los seres humanos, con quienes además sabe establecer relaciones íntimas? En juegos como el ajedrez, por ejemplo, ningún ser humano puede aspirar a vencer a una computadora. ¿Y si pasara lo mismo en el arte, la política o la religión?
La IA podría devorar rápidamente toda la cultura humana –todo lo que hemos producido durante miles de años–, digerirla y empezar a escupir un diluvio de nuevos artefactos culturales. No solo ensayos académicos, sino también discursos políticos, manifiestos ideológicos o libros sagrados para nuevos cultos. De hecho, es posible que la carrera presidencial de 2028 en Estados Unidos ya no sea dirigida por humanos.
Por lo general, los humanos no tenemos acceso directo a la realidad: estamos envueltos por la cultura y experimentamos la realidad a través de un prisma cultural. Nuestras opiniones políticas se moldean al calor de los informes periodísticos y las charlas con los amigos. Nuestras preferencias sexuales se ven modificadas por el arte y la religión. Hasta ahora, ese capullo cultural fue tejido laboriosamente por otros humanos a través de los siglos. ¿Cómo será percibir la realidad a través de un prisma producido por una inteligencia no humana?
Durante miles de años, los humanos vivimos dentro de los sueños de otros humanos. Hemos adorado dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas salidas de la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana.
En la saga de películas de Terminator había robots que corrían por las calles y le disparaban a la gente. Matrix asumió que para obtener el control total de la sociedad humana la IA primero tendría que lograr el control físico de nuestros cerebros y conectarlos directamente a una red informática. Pero todo resultó ser mucho más simple: al adquirir dominio del lenguaje, la IA tiene todo lo necesario para confinarnos a un mundo de ilusiones similar al de Matrix sin tener que dispararle a nadie ni implantar ningún chip en nuestros cerebros. Y si fuera necesario disparar, la IA podría hacer que los propios humanos aprieten el gatillo, simplemente contándonos la historia adecuada.
El fantasma de estar atrapados en un mundo ilusorio persigue a la humanidad desde mucho antes de la IA. Pero falta poco para que por fin nos encontraremos cara a cara con el demonio de Descartes, la caverna de Platón y la maia de los budistas. De hecho, sobre la humanidad podría descender una inmensa cortina de ilusiones que tal vez ya nunca logremos rasgar, o aún peor, tal vez ni nos demos cuenta de que existe.
Contactos
El primer contacto entre la IA y la humanidad fueron las redes sociales, y la humanidad perdió. Pero ese primer contacto al menos nos ha dejado el sabor amargo de lo que nos espera. En las redes sociales, la primitiva IA no se usaba para generar contenidos, sino para seleccionar contenidos generados por los usuarios. La IA que alimenta nuestros feeds de noticias es la que elige las palabras, los sonidos y las imágenes que llegan a nuestras retinas y tímpanos, seleccionando aquellas con mayor potencial de viralización, mayor repercusión y mayor participación de otros usuarios.
Por primitiva que fuese, la IA que está detrás de las redes sociales alcanzó para crear una cortina de ilusiones que fogoneó la polarización social, dinamitó nuestra salud mental y dejó la democracia hecha jirones. Millones de personas confunden esas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología informática del mundo, pero sus ciudadanos ya no logran ponerse de acuerdo sobre el ganador de las elecciones. Aunque ya todo el mundo es consciente de los problemas que entrañan las redes sociales, nadie aborda esos riesgos porque muchas de nuestras instituciones sociales, económicas y políticas quedaron enredadas.
Los MLG –modelos de lenguaje grande– son nuestro segundo contacto con la IA, y esta vez no podemos darnos el lujo de volver a perder. ¿Pero qué argumentos tenemos para decir que la humanidad será capaz de orientar estas nuevas formas de IA en nuestro beneficio? Si dejamos que los negocios hagan lo suyo, las nuevas habilidades de la IA volverán a ser utilizadas para obtener ganancias y poder, aunque en el camino destruyan inadvertidamente los cimientos de nuestra sociedad.
De hecho, la IA tiene el potencial de ayudarnos a vencer el cáncer, desarrollar medicamentos que salven vidas y pergeñar soluciones para nuestra crisis climática y energética, además de otros innumerables beneficios que no podemos ni empezar a imaginar. ¿Pero qué importa el rascacielos de beneficios de la IA si los cimientos se derrumban?
Dependencias
El momento de discutir el futuro de la IA es antes de que nuestra política, nuestra economía y nuestra vida cotidiana terminen dependiendo enteramente de ella. La democracia es una conversación, una conversación que se basa en el lenguaje, y cuando el lenguaje mismo es hackeado, la conversación se interrumpe y la democracia se vuelve insostenible. Si esperamos a que el caos se produzca, será demasiado tarde para solucionarlo.
De todos modos, en nuestra cabeza puede quedar repiqueteando una pregunta: si no avanzamos lo más rápido posible, ¿Occidente no corre el riesgo de quedar rezagado frente a China? Y la respuesta es que no. Muy por el contrario, el despliegue y la diseminación indiscriminados de la IA en la sociedad, con sus poderes divinos despojados de toda responsabilidad, podrían ser justamente la razón de la derrota de Occidente.
El destino de la inteligencia artificial todavía está en nuestras manos. Cuando a esos poderes divinos se les suman la responsabilidad y el control correspondientes, podremos alcanzar todos esos beneficios que la IA nos promete.
Hemos invocado una inteligencia ajena a nosotros. Sabemos poco sobre ella, salvo que es extremadamente poderosa y que nos promete regalos deslumbrantes, pero también sabemos que podría hackear los cimientos de nuestra civilización. Hacemos un llamado a los líderes mundiales para que estén a la altura del desafío que presenta la hora actual. El primer paso es ganar tiempo para actualizar nuestras instituciones decimonónicas y aprender a dominar la IA antes de que ella nos domine.•
Pronto también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana
El primer contacto entre la inteligencia artificial y la humanidad fueron las redes sociales, y la humanidad perdió

http://indecquetrabajaiii.blogspot.com.ar/. INDECQUETRABAJA