TECNOLOGÍA Y OTRAS ARBITRARIEDADES,

De esta no nos salvan los algoritmos: una receta simple para lidiar con los videos falsos
Esta semana las deepfakes volvieron a los titulares, pese a la pandemia y también un poco a causa de la crisis. las deepfakes son videos creados por medio de inteligencia artificial para que alguien aparezca diciendo o haciendo algo que no dijo ni hizo. la tecnología ha avanzado tanto que ahora es posible crear una producción de calidad aceptable con una computadora convencional. En una demostración que hicieron estos días en el canal TN, hizo falta, además, un imitador profesional para darle al video la verosimilitud del caso. Es lo de menos, porque los vectores de esta industria apuntan siempre para adelante.
Es decir, lo único que harán los algoritmos será progresar. con un poco más de fuerza bruta informática hoy ya es posible producir metamorfosis imposibles de distinguir de la realidad, sin fisuras, como cuando cambiaron el rostro de Bill Hader por el de Tom cruise, toda vez que aquel imitó al actor. En este capítulo de nuestro podcast Señales, donde pueden ver el video (https://www.lanacion.com.ar/2277923), analizamos la cuestión.
Faceapp (https://www.lanacion. com.ar/2379980) puso su granito de arena para despedazar cualquier certeza que nos quedara en medio de esta realidad entre comillas en la que nos ha colocado la cuarentena. El año pasado Faceapp envejecía nuestra imagen a partir de una foto. ahora volvió con otra sutileza: cambia el género de la persona retratada. El resultado, en la mayor parte de los ejemplos que vi, es bastante poco feliz, pero, de nuevo, muestra lo que la inteligencia artificial puede hacer con la realidad. la modifica, la retuerce, la anima con las deepfakes y nos deja la sensación de que ya no podemos creer ni siquiera en nuestra imagen en el espejo.
El eterno debate, toda vez que las imágenes y los videos falsos aparecen en escena, es cómo hacer para detectarlos. Ese debate es innecesario, inútil y un poco delirante. para empezar, existen un número de herramientas capaces de determinar si una imagen o un video han sido alterados. algunas son gratis y están en la web. pero el problema no es ese. El problema está en otro lado. El problema somos nosotros.
Durante la evolución de todas las formas de vida en la Tierra, los sistemas nerviosos se adaptaron para confiar en sus sensores: visuales, auditivos, de infrarrojos, de ultrasonido, eléctricos, químicos. ningún ser vivo pone en duda lo que percibe.
Estamos adaptados a confiar en nuestros sentidos, fin de la discusión. intentar zafarse de una adaptación evolutiva es, digamos, bastante complicado. Traten de hacer casi cualquier cosa sin usar los pulgares y van a entender lo que quiero decir.
Pues bien, las deepfakes apuntan a esa adaptación evolutiva. no importa que la voz sea imitada y que lo que dice el funcionario, el deportista o la celebrity sea absurdo. lo primero que nuestros sistemas nerviosos hacen es reaccionar dándole crédito a sus sensores. no estaríamos aquí hoy y nos habríamos extinguido hace rato, si no fuera así. Desde un insecto hasta un entomólogo, todos los seres vivos funcionamos sobre ese principio fundamental.
Si no lo creo, no lo veo
Ahora, nosotros, los humanos, tenemos algunas destrezas únicas. Hemos desarrollado sistemas simbólicos complejos y explotamos la razón para crear ciencia y tecnología. al revés que los demás seres vivos, somos capaces de poner en duda lo que los sensores le envían al sistema nervioso. Esto es muy novedoso.
En un primer vistazo, no, es casi imposible evitar que la reacción inicial no sea completamente involuntaria. De entrada, creemos y reaccionamos emocionalmente. allí anclan sus trampas los piratas que emplean ingeniería social. aprovechan nuestra primera reacción instintiva que cree en lo que ve y en lo que oye.
Como ocurre con las estafas online (loterías, cuentas abandonadas, alertas del banco y otros anzuelos por el estilo), no existe modo alguno de anticipar todos los trucos del delincuente. Solo en mi cuenta de Gmail recibo unas 17.000 estafas de este tipo por año. así que no solo es ridículo imaginar que cada persona va a pasar una foto o una deepfake por pruebas de laboratorio para verificar su autenticidad, sino que es igual de ridículo esperar que seamos capaces de detectar cada pase mágico de los creadores de noticias falsas. Tarde o temprano, algo nos tocará un nervio sensible y caeremos en la trampa. ¿no hay solución?
La hay. no es fácil, pero la hay. respecto de las estafas online, en mi último libro, Hackearán tu mente, publicado por Editorial planeta, establecí una suerte de dogma: “Si algo te llega por internet, te afecta emocionalmente y te pide que hagas algo con urgencia, entonces es una estafa”. Siempre. Sin dudarlo. Solo es cuestión de no creer en nada que presente tales rasgos. El otro día Spotify me avisó que no había podido procesar el pago con mi tarjeta. pero se apresuraban a aclarar que no me preocupara, que de todos modos tratarían de volver a cobrarme en los próximos días. Me pedían que revisara mis datos de pago, pero sin urgencia. la receta funciona a la perfección.
Con las imágenes y videos falsos ocurre algo semejante. Se puede establecer un dogma. Mi regla, en todos los casos, es que lo que veo en la pantalla es una ilusión. punto. como mínimo, porque se ha retocado un poquito la foto para que la estrella de cine se vea mejor. o porque en realidad ese perro y ese gato no están abrazándose; podría ser un montaje con Photoshop o podrían estar peleándose. De la pantalla hay que desconfiar siempre, porque detrás de esas imágenes y videos solo hay unos y ceros, fáciles de hilvanar y transmutar.
Pero sería inviable simplemente no creer en nada de lo que muestra una pantalla, porque vivimos entre pantallas. la otra cara de esta disciplina es la de esperar un poco. no parece difícil. pero lo es, y mucho.
Pese a eso, hay que tratar de incorporarla. Si después de unas horas los profesionales de la información replican el contenido y diversas fuentes confirman que aterrizó un plato volador en plaza de Mayo y los extraterrestres están dándole de comer a las palomas, ok, entonces es muy probable que sea verdad. imágenes y videos falsos se viralizan con rapidez explosiva. Viceversa, las noticias verdaderas pueden viralizarse o no (depende del humor popular), pero siempre hay fuentes que las confirman. Y una cosa más que caracteriza a los contenidos falsificados. no tienen crédito. nadie se hace cargo. El video circula. la foto explota en las redes. les cuento un secreto: ni las fotos ni los videos tienen vida propia. no circulan. no nacen de forma espontánea. o hay un autor o son fake.
Somos capaces de poner en duda lo que nuestros sensores le envían al cerebro
Lo que está en la pantalla es siempre una ilusión basada en unos y ceros

A. T.

TECNOLOGÍA Y OTRAS ARBITRARIEDADES

El misterioso caso del disco evanescente
You must believe in spring, obra póstuma de Bill Evans, desactivado en mi biblioteca de Spotify. Imposible volver a oírlo. Por ahora
Al final, ocurrió. Era cuestión de tiempo. Ocurrió que uno de mis discos favoritos fue eliminado de mi Biblioteca de Spotify. Sin aviso. Sin anestesia. Por los comentarios que recolecté durante las últimas dos semanas, no soy el único que ha sufrido esta clase de evanescencia.
Pero duele cuando te pasa. Dicho simple, el álbum You must believe in spring, obra póstuma del genial Bill Evans, apareció un día con los títulos de las pistas en gris, y ya no pude volver a reproducirlo. Es un disco inmenso, entrañable, indispensable. Lo encontré en Spotify hace no mucho. Poco después, se desactivó. Otra cosa: en las búsquedas ya no aparece. Esto significa que para los que no lo habían atesorado en sus Bibliotecas, dejó de existir. Esas personas ni siquiera podrán descubrirlo, buscarlo en Wikipedia o en AllMusice ir a comprarlo. Me pregunto qué rédito puede sacar la discográfica al poner un disco en semejante cono de sombra.
Para despejar dudas: no es un tema de configuración. Tampoco es un compacto ripeado. No me lo bajé ilegalmente de Internet. Desapareció al mismo tiempo de todos mis dispositivos y de los de varios usuarios argentinos a los que consulté estos días. Tengo una cuenta Premium familiar, que abono todos los meses. Sin embargo, no tuve más remedio que decirle adiós a ese disco de Evans. Qué digo disco. Discazo.
Le consulté a Spotify qué había pasado con esa obra. Sus voceros respondieron, escuetamente: "Somos un servicio que cuenta con el 100% de las licencias y con acuerdos con todos los titulares de derechos locales e internacionales en la industria de la música, incluidos los sellos principales e independientes, las editoriales y las sociedades de recaudación. La mayoría de los artistas están en Spotify en todos los países, pero puede haber diferencias regionales que se reflejen en los catálogos locales." No hace falta tener un posgrado en Mecánica Cuántica para entender que el retiro de ese disco de debe a que Spotify no cuenta con la licencia para reproducirlo en la Argentina o porque esa licencia se venció.
No es la primera vez que ocurre. En 2009, Amazon eliminó de los Kindle la novela 1984, de George Orwell, de forma remota, sin que los lectores pudieran evitarlo (excepto no volviendo a conectarse a Internet). ¿Por qué eliminaron ese libro de los Kindle? Porque la licencia de la editorial solo contemplaba el volumen en papel, no el ebook.
Si tal era el acuerdo, la editorial tenía razón. A Amazon no le quedaba más remedio que hacer lo que hizo. Además, les devolvió el dinero a sus clientes, hay que reconocerles eso. Pero el acto en sí fue orwelliano hasta el tuétano. Se supone que si compraste un libro, nadie va a venir a tu casa a sacártelo a causa de un conflicto entre la editorial y la librería. Amazon debió actuar con más firmeza y sentar así un precedente (más sobre esto al final de esta columna).
Disc no more
Lo de Spotify es diferente. Ahí ni siquiera compramos un disco. Aclaro: si ese fuera el modelo, compraría You must believe in spring sin dudarlo ni un instante (de hecho, si no regresa en breve, haré eso). Pero Spotify no funciona así. Al igual que Netflix, el modelo es más confortable y económico: cientos de miles de discos, millones de pistas, por una cuota mensual irrisoria. Pero el catálogo de Netflix en la Argentina no es el mismo que el de Estados Unidos o Europa; lo mismo ocurre con Spotify. Y ambos pueden eliminar una obra que amás porque alguien no leyó bien una licencia o un contrato, o bien porque esas condiciones cambiaron.
Como la respuesta de Spotify no era lo bastante explícita, repregunté. "¿Esto me confirma que el disco de Bill Evans desapareció de mi Biblioteca por cuestiones de derechos de autor?" La respuesta, que no tardó en llegar, fue tan significativa como inesperada. "En este caso, lo mejor sería que puedas contactarte directamente con el titular de los derechos del disco de Bill Evans en cuestión", me recomendaron.
Bueno, no, muchachos. Los que tienen que encargarse de administrar los derechos de autor son ustedes. La razón es prístina. Imagínense a millones de clientes de Spotify intentando comunicarse con los titulares de los derechos de autor. Exacto, no es viable.
No obstante, y a pesar de que el planteo era delirante, fui al sitio del sello discográfico (Concord Music Group, según consta en Spotify; Wikipedia dice que el disco es de Capitol), les describí lo que había sucedido y les pregunté si, en efecto, el retiro del álbum de Evans se debía a que Spotify no tenía una licencia para difundirlo en la Argentina. Eso fue hace más de 20 días. Hasta ahora, no han respondido. No tengo porqué pensar que no lo harán, pero tampoco tengo razones para pensar que sí lo harán.
La respuesta de Spotify, la de mandarme a hablar con una discográfica, estuvo tan fuera de lugar que, incrédulo, no pude menos que verificarla. "¿Esta es la respuesta oficial de Spotify?", les pregunté a sus voceros. "Así es", me respondieron.
La cultura no se consume
Empecé a percibir ingresos por derechos de autor a los 17 años. A los 23, ya me ganaba el sustento produciendo bienes intelectuales a jornada completa. Ha sido así toda mi vida. Escribo artículos, columnas y libros. Cada vez que alguien obtiene una copia de mis libros sin pagarla, estoy perdiendo dinero; y no me sobra, francamente. Pero si alguien compró un libro mío y un intermediario metió la pata, creo que el lector debería conservar su volumen (eso es lo que ocurre, con libros y discos). No solo porque no es su responsabilidad. No solo porque lo pagó. Sino porque las personas sacamos dinero del bolsillo a cambio de un libro o un disco porque creemos que lo valen. Como en el psicoanálisis, el dinero cumple aquí otras funciones que la de abonar un bien o un servicio. ¿Por qué? Porque al revés que cien gramos de jamón crudo, los objetos culturales no se consumen. Uno no consume una sinfonía ni usa una novela. Las obras de arte y las intelectuales no se gastan.
El otro rol clave que juega el dinero en la adquisición de bienes culturales es que las sociedades organizadas necesitan científicos, artistas e intelectuales. No nos sirve que le dediquen a sus actividades un ratito el fin de semana. Tienen que vivir de sus ideas y creaciones. Tienen que ser artistas, científicos e intelectuales de tiempo completo. No lo hacemos por ellos; lo hacemos por nosotros.
Pero con Spotify todos estos conceptos han terminado por desvanecerse. Ya no pagamos el objeto cultural. Pagamos un servicio; como si la música y el gas natural fueran lo mismo.
Es verdad, ese servicio es genial. Confieso, pese a mi abundante discoteca, que he oído más variedad de música en los últimos dos años que en los 40 precedentes. De hecho, la cuota es tan baja (99 pesos el plan Premium individual; 149 pesos, el Familiar) que vuelve mucha más música accesible para muchas más personas, del mismo modo que los registros discográficos redujeron el costo de acceso a escuchar música, unos 120 años atrás. Pero, dado este cambio de modelo, la industria debería llegar a ciertos acuerdos básicos. Tres, por lo menos.
Primero, que si cambia la licencia para distribuir como archivo digital o para reproducir por streaming una obra en un país, la plataforma no podrá ofrecerlo más en ese país, pero estará impedida de retirarlo de las bibliotecas de los que ya lo han guardado, salvado, descargado al ebook, al reproductor, etcétera.
Segundo (y vengo advirtiendo sobre este riesgo desde hace quince años), que estas plataformas nunca se conviertan en servicios medidos. Los libros se releen. La música se oye una y otra vez. Insisto, no se consumen. Si alguien cree que son consumibles, que "consumimos cultura", por favor, que me detalle a cuántos kilos de asado de tira equivale Tosca, de Puccini, en la versión de Renata Tebaldi con la Orquesta de la Academia de Santa Cecilia.
Tercero, el que administra el asunto de las licencias es la plataforma, no el cliente, y esa administración debe ser transparente. Esto quiere decir que si retiran una obra de las bibliotecas de sus usuarios (de respetarse el primer acuerdo, esto debería ocurrir solo en situaciones muy excepcionales), debe avisar con claridad las causas. Porque para nosotros es una pérdida. Se siente como una verdadera pérdida.

A. T.