VIDA DIGITAL

Paren con la inteligencia artificial o vamos a perder el control de nuestra civilización
Alex Trebek, conductor del programa de preguntas y respuestas Jeopardy!, junto a Ken Jennings y Brad Rutter, participantes humanos; en el medio, Watson, el sistema de aprendizaje automático de IBM que en 2011 ganó la competencia y se alzó con 1 millón de dólares
¿Realmente miles de expertos pidieron que se suspenda la investigación en IA durante seis meses? No exactamente; además, tras la mediática, pero efímera carta abierta podría haber otros intereses
Ariel Torres
En 1899, Charles Duell era el comisionado de la Oficina de Patentes de Estados Unidos. Se le atribuye, con malicia y sin pruebas, el haber sugerido que esa repartición estatal pronto se iría achicando hasta eventualmente desaparecer, porque, dicen que dijo Duell, “todo lo que puede inventarse ya ha sido inventado”.
Duell nunca dijo nada así. Más bien, lo contrario. Esa frase delirante salió, todo indica, en una revista de humor. En una edición de 1899, la inglesa Punch publicó una broma basada en la idea de que todo lo que se podía inventar ya había sido inventado. Aunque colocaba esa instancia en el futuro.
Por algún motivo, la anécdota me vino a la cabeza cuando leí la carta que firmaron la semana pasada un número de personas pidiendo que se suspenda durante seis meses el entrenamiento de los grandes modelos de lenguaje (LLM, por sus siglas en inglés). Aparte de cualquier otra consideración, y solo como aperitivo, ¿por qué al menos seis meses y no al menos dos años? ¿Año y medio? ¿Ocho meses? ¿Es negociable?
El texto está diseñado para pegar fuerte, y lo consiguió (aunque el vapor, fiel a su naturaleza, se desvaneció rápido). Pero contiene un número sospechoso de vaguedades y una muy tendenciosa selección de documentación probatoria. Por ejemplo, es cierto que la IA le ha ganado a los humanos al ajedrez y al go, pero la carta se abstiene de mencionar la noticia de que en febrero un humano le ganó 14 de 15 juegos de go a la IA, y que lo hizo explotando un rasgo humano que las máquinas no tienen: la picardía. Tampoco menciona, la carta abierta, la sólida refutación que hizo Kevin Kelly desde las páginas de Wired sobre el mito de una inteligencia artificial sobrehumana.
El maestro de go Ke Jie compite contra AlphaGo, en 2017. Ganó la IA, pero estos días otro jugador encontró un punto ciego en los algoritmos y el humano le ganó a la máquina 14 partidas de 15
La carta, según se dijo, estaba firmada “por 1000 expertos”. En realidad, como es una carta abierta, la puede firmar cualquier persona, y en ese listado no todos son nombres brillosos, como Yuval Harari, o asociados a la industria de la inteligencia artificial, como Elon Musk. Hay de todo. Por eso, decir que “más de 1000 expertos piden que se suspendan las investigaciones en inteligencia artificial” es un poco forzado. Además, es incorrecto; la carta no dice eso. A propósito, dos semanas después, la carta cosecha algo más de 16.000 firmas. Nada, para los estándares de casi cualquier petición en la Red.
Inviable
Dejando de lado la intención de volverse viral (“paren todo, que se viene el fin del mundo”), hay otros problemas con el planteo de esta petición, incluido el concepto mismo de “carta abierta”, que suena a situación de crisis terminal. Crisis terminal que ni existe; es más, ChatGPT ha demostrado que es bueno para hablar, pero no le sale bien fingir el cuento del tío.
El primero es que lo que piden no se puede aplicar. Todo bien, los entiendo si tienen miedo, y creo que es un miedo muy justificado, aunque también creo que es un miedo que no tiene nada que ver con el entrenamiento de los LLM, sino con nosotros, con nuestras miserias, nuestros valores, nuestras instituciones y nuestras prioridades. “Pero no hay una autoridad que pueda decirles a las empresas que dejen de investigar, y además está cada potencia con sus intereses geopolíticos”, me decía a propósito de la carta Hugo Scolnik, matemático, fundador de la carrera de sistemas de la facultad de Exactas de la UBA y uno de los hombres que más sabe de estos temas. En su opinión, además, “el miedo es un poco exagerado”.
Para Alejandro Zuzenberg, co fundador y CEO de la empresa de inteligencia artificial Botmaker, “la preocupación es válida, pero no creo que esto se pueda regular, y siempre vamos a tener el dilema de quién controla al que controla”. A su juicio, “Sería mejor reforzar las instituciones democráticas”. Coincido.
Por supuesto, que algo sea inviable no significa que no sea noble y altruista el pedirlo. También entiendo eso, pero el entrenamiento de los LLM o para el caso de cualquier otra red neuronal (visión artificial, por ejemplo) es tan incomprensiblemente rápido que la idea misma de “detener por seis meses” es ridícula. Watson, el sistema de aprendizaje automático de IBM, es capaz de leer un millón de libros en un segundo. Y ha sido capaz de hacer esto desde hace más de diez años; o sea 315 billones (315 x 10 a la 12) de libros o 1 millón y medio de veces la Biblioteca Británica. Más fácil: los humanos ni siquiera hemos escrito tantos libros en toda la historia de la civilización.
Burrito de chocolate, una de las creaciones más originales de Watson. Original, como se ve, no significa necesariamente comestible. De todos modos, Watson, el chocolate queda bien con todo
Pero hay más: en esos seis meses de gracia, los humanos ni siquiera vamos a conseguir ponernos de acuerdo en quiénes integrarán la supuesta comisión auditora de la IA. Así que detener el entrenamiento por seis meses es lo mismo que no detenerlo en absoluto.
La carta no se olvida, pero allí se vuelve todavía más confusa, de los investigadores independientes. Hoy, un chico, en su casa, con un software como MidJourney y una computadora personal, le hace creer a millones de personas que el papa se puso una campera de diseño clerical. Por eso la carta habla también de detener el entrenamiento de los LLM incluso en el nivel de los investigadores independientes. ¿Pero cómo lo harían? A lo mejor pueden convencer a OpenAI, Google, Amazon, IBM, Facebook y Microsoft de apagar sus computadoras por seis meses (seamos ingenuos y creamos que van a acatar la orden), pero nada impide que decenas de miles de investigadores se alíen de forma remota y sigan trabajando en la IA. Pasó con Linux, que tuvo que vencer la resistencia feroz de los gigantes informáticos, y hoy Linux está en todas partes.
Aparte de que la computación distribuida haría que la curiosidad humana se escurriera por estas decenas de miles de capilares, el otro problema para aplicar esta idea es quién y cómo va a fiscalizar que los LLM no se entrenen por al menos seis meses. No solo no hay una autoridad, como señala Scolnik, sino que además de eso, fuera de confiar en la palabra de la industria –que ya ha demostrado de forma sistemática que la última palabra siempre la tiene Wall Street–, lo único que podríamos hacer es mandar inspectores. Y no sé si es evidente, pero una supercomputadora que no hace nada y otra que está entrenando una red neuronal se ven exactamente iguales. Son cajas negras. Hace más de una década que estoy advirtiendo sobre estas cajas negras y sobre la necesidad de buscar soluciones creativas. Mandar un inspector no es precisamente una solución creativa.
El único escenario en el que tal medida podría aplicarse sería apagando todas las computadoras de todos los laboratorios de IA del mundo y poner guardias armados en la puerta. No suena super lindo, me temo. Y todavía nos quedarían, por un lado, las naciones que investigan estas tecnologías y no apagarían nada porque están en la vereda geopolítica de enfrente, y, por el otro, los investigadores independientes. Oh, bueno, en el segundo caso podríamos apagar internet, y listo.
¿Tienen a Terminator encerrado en algún lado? La carta suena a eso....Terminator
Esta demostración ad absurdum, sin embargo, no va a la médula de la carta. Ninguno de los firmantes más conocidos piensa que de verdad se puede detener la investigación en IA (o en cualquier otra cosa) durante seis meses. Pero hay un detalle que en general se ha pasado por alto. La carta dice que “detengamos por seis meses el entrenamiento de cualquier sistema más poderoso que GPT-4″. Dado que GPT-4 es lo más poderoso que tenemos hoy, se abren dos posibilidades aquí. O bien Musk y compañía saben algo más y están muy asustados (en cuyo caso deberían darlo a conocer, y ya) o bien es gatopardismo puro. En todo caso, el CEO de OpenAI, Sam Altman, no firmó la carta. Bueno, en rigor, casi nadie de OpenAI firmó la carta. Raro. O tienen Skynet a punto de escaparse de la jaula o acá hay gato de Schrödinger encerrado. (Dicho sea de paso, se habla ya de GPT-5 para diciembre, y en tono ominoso. Sí, muchachos, esto es así, es como Windows, el iPhone o los microprocesadores, van mejorándose muy rápidamente. Así que, fasten your seatbelts.)
Solo otra frase bonita
Mi impresión, luego de décadas de cubrir la IA, es que hay en esta movida más ruido que nueces. Por ejemplo, en un artículo en apoyo a la petición que firmaron Yuval Harari, Tristan Harris y Aza Raskin, se dice que “el lenguaje es el sistema operativo de la cultura humana”. Wow. Suena espectacular, pero esta idea demuestra que o bien no sabés qué es un sistema operativo o bien no sabés qué es el lenguaje. Me inclino a pensar, sin embargo, que, como muchas otras cosas que aparecen en ese artículo, es solo un titular tentador. Para que quede claro, el lenguaje no es un sistema operativo, y en caso de serlo iría mucho más allá de la cultura humana, que en numerosas instancias, dicho sea de paso, no es lingüística. Y la cultura no necesita un sistema operativo; no es un smartphone. Paremos con las analogías fáciles. Al menos por seis meses.
¿Pero estamos en problemas o no?
Vamos al nudo. ¿Qué hay de cierto en los peligros que cita la carta abierta? Todo. Pero no tiene nada que ver con el entrenamiento de los grandes modelos de lenguaje, sino con la fortaleza de nuestras instituciones democráticas, la concentración de poder, la educación, los derechos civiles y varios otros factores. Si la carta hubiera instado no a detener el progreso (o a regularlo, cosa todavía más estratosférica), sino a mirarnos en el espejo de la inteligencia artificial para darnos cuenta de todas las cosas que hemos hecho y que seguimos haciendo mal, entonces la habría firmado. Pero, increíble como suena, el co fundador de Apple (Wozniak) y el co fundador de OpenAI (Musk) acaban de suscribir una carta donde, una vez más, se demoniza a la tecnología. Mientras tanto, la educación sigue formando personas para trabajos que hoy pueden hacer los robots y la política no tiene ni siquiera una idea somera de cómo funcionan las computadoras.
She’s leaving home
El petitorio, además de ser impracticable y de hacer un diagnóstico equivocado, se basa en el supuesto de que la IA podría en cualquier momento empezar a hacer cosas de forma espontánea; tal vez, independizarse. Al parecer, habría algo más potente que GPT-4 (¿GPT-5?) y, si lo seguimos entrenando, entonces cobrará consciencia y nos deglutirá con papitas al horno. Hasta donde sabemos, y la fuente es lábil, GPT-5 funcionaría no ya con un prompt (lo que le pedimos a ChatGPT se llama prompt), sino con metas. Así que si un humano malo le pide a GPT-5 que destruya a la humanidad, la IA hará todo lo posible por hacerlo. Pero el que pide eso es un humano, y en ese sentido GPT-5 no sería diferente de la energía atómica. Podés usarla para tratar el cáncer o para destruir Hiroshima.
De todo modos vamos a desarmar este razonamiento. Si es cierto que hay algo siniestro y fuera de control, ya es tarde para lágrimas y seis meses no arreglan nada. Si no es cierto, no hay de qué preocuparse. Mi impresión, de todos modos, es que el razonamiento supone que en un punto “seguir entrenando un LLM más potente que GPT-4 hará que la IA empiece a tomar decisiones por las suyas”. O sea que a la hipótesis de que hay un sistema más potente que GPT-4 se le viene a sumar el de que la consciencia (o un proceso psíquico equivalente; el espíritu de la manada o el de la colmena, por ejemplo) surgirán espontáneamente de una serie de algoritmos diseñados para procesar lenguaje. No es imposible, aunque en general los expertos en IA creen que todavía falta mucho para eso. Pero, como sea, son dos hipótesis al precio de una. Mucho para una carta abierta.
Pero hay algo más, más serio. Elude el problema real. De la IA, dado el tiempo y el poder de cómputo suficiente, podría emerger una mente. Eso no lo va a detener ni una pausa de seis meses ni las regulaciones estatales o la fiscalización independiente. Se compara a la IA (más bien, para ser preciso, a los LLM) con otras industrias reguladas, como la automotriz y la farmacéutica. Sin embargo, en esos casos, regulamos asuntos específicos, como la emisión de gases de efecto invernadero o los efectos secundarios de un medicamento. No es posible regular una preocupación.
Elon está furioso
Lo que más sospechas me inspira de esta carta abierta y la idea de parar el partido durante seis meses es que Elon Musk, que fue uno de los fundadores de OpenAI, está furioso con OpenAI. En 2018, la organización rechazó una oferta de Musk de quedarse a cargo de la empresa. Después de eso, en 2019, Microsoft invirtió 2000 millones de dólares en OpenAI, y en noviembre de 2022 ChatGPT salió a la cancha, fue un boom, Microsoft puso otros 10.000 millones, y todo el show dejó completamente fuera de la escena a Musk y su tormentoso y hasta ahora decepcionante romance con Twitter. Es lógico que esté frustrado, pero eso no justifica que se detenga el entrenamiento de los LLM.
Democracias inteligentes
Hace un rato largo, en 2018, con mucha mas sustancia y menos escándalo, el criptógrafo estadounidense Bruce Schneier escribió un esclarecedor artículo sobre las fake news y las democracias. Definió una democracia como “un sistema de información” (esto es mucho más certero que el slogan de que “el lenguaje es el sistema operativo de la cultura”) y demostró, a mi juicio de forma prístina, cómo las noticias falsas erosionan las bases de la democracia al tiempo que refuerzan los relatos totalitarios. O sea, sí, hay un problema. Y sí, se pueden usar los grandes modelos de lenguaje para inundar el planeta con noticias falsas. Pero también se podría usar la IA para verificar la veracidad de esas noticias o detectar la impostura de fotos y videos, a la misma velocidad y con la misma precisión. O sea, la IA puede engañar a algunas personas, pero le dará mucho más trabajo engañar a otra IA.
Así que la salida (en el caso de que haga falta una salida) no es hacia atrás, es hacia adelante. Si la IA encierra peligros, entonces la respuesta no es detener el progreso, sino acelerarlo, porque la mejor defensa contra la IA es una mejor IA. Y, sobre todo, una mejor inteligencia humana.
Y una cosita más
Lo malo de intentar ponerle un cepo a la tecnología, en lugar de hacernos cargo de nuestros errores, aparte del tufillo soviético que emana, es que imprime un sesgo negativo a toda una familia de avances; en este el caso, a la inteligencia artificial generativa, o GAI, por sus siglas en inglés.
La misma tecnología que sirve para investigar la mecánica cuántica y tratar el cáncer permite crear armas de destrucción masiva; la imagen fue creada con el software de inteligencia artificial generativa Mid...JourneyMidjourney
Sin embargo, y este es un ejemplo entre miles, científicos del MIT están ensayando con la misma inteligencia artificial que nos dio un papa con campera para acelerar el descubrimiento de medicamentos y, a la vez, anticipar y limitar sus efectos adversos. ¿Con qué vamos a quedarnos, con el meme del papa o con las cosas serias? Sabemos de antemano cuál es la respuesta, porque ya vimos esta clase de histeria cien veces antes. ¿O acaso alguna vez no nos prohibieron usar calculadoras programables en clase?

http://indecquetrabajaiii.blogspot.com.ar/. INDECQUETRABAJA