IMÁGENES FALSAS Y ALUMNOS ABURRIDOS

Peligrosos usos de la inteligencia artificial
Fernando Tomeo
Recientemente tomó estado público que un joven menor de edad (15 años), oriundo de la localidad de San Andrés, partido de General San Martín, provincia de Buenos Aires, habría manipulado imágenes de sus compañeras de colegio mediante la utilización de sistemas de inteligencia artificial (IA), generando desnudos (nuds) con la imagen de las chicas, para comercializarlas a través de la plataforma Discord (programa de comunicación gratuito que permite compartir chats de texto, voz y video mediante la generación de grupos privados).
En otras palabras, este joven habría tomado fotos de sus compañeras de clase y las habría “desnudado” utilizando IA para vender las imágenes en el mercado a través de la plataforma mencionada.
La tecnología que se habría utilizado es la denominada deepfake, que permite editar videos (voz incluida) o imágenes falsas de personas que aparentemente son reales, pero que no lo son, utilizando para ello fotografías que usualmente son tomadas de las redes sociales de las víctimas. Eso incluye la posibilidad de crear supuestas personas actuando de una manera que no es real, simulándose de ese modo acciones que nunca se ejecutaron.
A este tipo de sistemas de IA se sumó la aplicación Sora (de OpenAI), que permite al usuario la creación de un video a partir de instrucciones de texto, esto es, la generación de videocontenido a partir de frases.
Situaciones como la ocurrida con las alumnas del colegio de la localidad de San Andrés se multiplican, como el caso testigo de Almendralejo (España) cuando, a fines de 2023, distintas adolescentes fueron víctimas de hechos similares al ser tomadas sus imágenes de Instagram para fabricar nudes eróticos falsos distribuidos en distintos sitios web por un compañero de aula.
Estrellas de la canción como Taylor Swift y de Hollywood como Scarlett Johansson, como asimismo el propio papa Francisco y Donald Trump, han sido víctimas de esta tecnología, e incluso han promovido acciones legales contra sus desarrolladores, ya que en muchos casos sus fotografías y/o videos han sido utilizados para desinformar e influenciar a la población en determinado sentido, principalmente en el voto.
Ahora bien, frente al hecho puntual ocurrido en San Andrés y demás antecedentes mencionados, las preguntas que se imponen son las siguientes: ¿qué responsabilidad legal cabe al autor de este tipo de hechos?, ¿qué respuestas legislativas se esperan al respecto?
En materia de responsabilidad civil, el derecho personalísimo a la imagen de las chicas involucradas en este despropósito encuentra protección legal en el artículo 31 de la ley 11.723 cuando refiere, como principio general, que “…el retrato fotográfico de una persona no puede ser puesto en el comercio (utilizado) sin el consentimiento expreso…”.
El artículo 53 del Código Civil y Comercial de la Nación refuerza la protección de la ley mencionada incluyendo asimismo la voz de una persona, que tampoco puede ser reproducida, bajo ninguna forma, sin su expresa autorización. Eso adquiere máxima relevancia en los casos de la grabación de conversaciones en ámbitos públicos y privados sin autorización de alguno de los participantes y los supuestos de deepfake.
Al respecto, la Corte Suprema de Justicia de la Nación sostuvo en reiteradas oportunidades que el legislador ha prohibido, como regla, la reproducción de la imagen (y la voz) en resguardo del correlativo derecho a ella, restricción que solo cede si se dan específicas circunstancias que tengan en mira un interés general que aconseje hacerlas prevalecer por sobre aquel derecho.
El amparo legal se extiende a cualquier técnica de reproducción de los rasgos físicos de una persona, con prescindencia del procedimiento empleado y del soporte material en el cual se fija la imagen.
Dicho en criollo, nadie puede utilizar ni comercializar la imagen ni la voz de otra persona sin su consentimiento bajo pena de responder por los daños y perjuicios causados. Si el autor de los hechos es menor de edad, puede surgir la responsabilidad de los padres, sobre los que recae la obligación de custodia, guarda y debida vigilancia.
La IA asegura grandes oportunidades y beneficios para la humanidad aunque también facilita herramientas que permiten confundir la identidad de las cosas y de las personas, como asimismo la desinformación y la mentira
En cuanto a las respuestas legislativas para penalizar este tipo de acciones, sin perjuicio de que estos hechos pueden calificarse de “violencia de género digital”, se han presentado en el Congreso nacional algunos proyectos de ley que persiguen encuadres (tipos) penales especiales.
Por ejemplo, los proyectos de ley presentados por los diputados Juan Fernando Brugge y Gerardo Milman, con similares fundamentos y diferente extensión normativa, proponen modificar el Código Penal de la Nación y establecer fuertes penas de prisión para todo aquel que incurra en este tipo de acciones, ya sea mediante la producción, financiación y/o comercialización de imágenes elaboradas y/o modificadas por sistemas deepfake.
Lógicamente, siempre es mejor prevenir que curar, por lo cual resulta aconsejable evitar este tipo de hechos con un adecuado marco de concientización en el nivel familiar y educativo, mediante su tratamiento en el aula, incluyendo una modificación en la ley de educación superior que establezca, como materia obligatoria, el tratamiento de estas cuestiones y/o cualquiera vinculada al uso responsable de herramientas informáticas y sistemas de IA.
La IA asegura grandes oportunidades y beneficios para la humanidad, aunque también facilita herramientas que permiten confundir la identidad de las cosas y de las personas, como asimismo la desinformación y la mentira.
Dependerá de los Estados establecer normas de juego claras que permitan identificar este tipo de situaciones y sancionarlas razonablemente, sin afectar el desarrollo de una industria que ha prometido actuar con ética proactiva, sujeta a verificación en el tiempo. Hasta que eso suceda, navegaremos aguas peligrosas.
Abogado y académico en Derecho Digital y Data Privacy. Profesor de la Facultad de Derecho de la Universidad de Buenos Aires y de la Universidad Austral

&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&



Alumnos aburridos
La vida digital impone sus ritmos y sus algoritmos detrás del afanoso desafío de suscitar atención y despertar interés. A eso están acostumbrados los nativos digitales, cooptados por pantallas y con bajo umbral para el aburrimiento.
Así lo reveló una encuesta realizada por el Ministerio de Educación porteño entre más de 4000 alumnos de escuelas de gestión pública y privada. El “Estudio sobre atención y funciones ejecutivas en estudiantes de tercer año de secundaria” reveló que el 75% de los entrevistados sienten que lo que aprenden en la escuela es “nada, poco o algo interesante”; solo el 5% piensa que es “muy interesante”, y el 20%, “bastante interesante”.
Cuando se indagó respecto de qué podría devolverle el interés a la escuela, casi la mitad de los alumnos mencionaron “aprender habilidades para la vida”; el 44% planteó “el abordaje de problemas reales y vinculados a los intereses de los estudiantes”; el 43% destacó “que haya mayores posibilidades de elegir cómo trabajar”; el 41%, “que el horario de clase comienUrribarri ce más tarde” y también “permitir que los estudiantes se agrupen según sus intereses”. “Incorporar más recursos digitales” fue el reclamo del 36,7%, mientras que el 31% pidió “proyectos que permitan aplicar los conocimientos a situaciones reales”.
Respecto de las dinámicas más motivadoras para las clases, en primer lugar se mencionó el trabajo en equipo, pero también los juegos, los experimentos, los debates y discusiones, así como el análisis de casos.
Sobre el uso de celulares, el 87% reconoció que los utiliza en la escuela en recreos y horas libres. Si bien la prohibición de uso vigente en las aulas de la ciudad disparó, según directivos y docentes, mayor atención en clase y estimuló las conversaciones con amigos, también se encendieron alertas porque se los ve más aburridos, tal como el 41% de los alumnos reconocieron. Y es que tabletas y celulares se destacan como los más elegidos (41,7%) cuando se les pregunta qué recursos son más motivadores para aprender, seguidos por las pizarras (41,5%), las aplicaciones y juegos digitales educativos (40,5%), materiales de laboratorio para experimentos y recursos multimedia como videos (39%).
El estudio es parte del plan piloto de lanzamiento de una nueva secundaria en 30 escuelas pioneras, dirigido a revertir el desinterés de los alumnos.
El Observatorio Argentinos por la Educación brindó otro preocupante dato: aunque cada vez más chicos terminan la primaria a tiempo, los saberes alcanzados distan de ser los esperados según el Índice de Resultados Escolares (IRE). Al medir los aprendizajes de Lengua y Matemática, solo el 45% de los chicos, el nivel más bajo de los últimos años, llegan a 6º grado a tiempo y con niveles de aprendizajes satisfactorios, según las pruebas Aprender 2023.
Es preciso descubrir cuáles son las necesidades de los alumnos, pensándolas desde su perspectiva, darles protagonismo, sorprenderlos y despertar su curiosidad. No hay tiempo que perder. El futuro de la educación está en juego.

http://indecquetrabajaiii.blogspot.com.ar/. INDECQUETRABAJA