Adela Cortina. «No se puede reemplazar a los jueces o los médicos por algoritmos»
La filósofa española, que acaba de publicar un libro sobre la IA, afirma que nuestra autonomía está siendo afectada
Manuel G. Pascual
Adela Cortina (Valencia, 77 años) nunca imaginó que escribiría un libro sobre inteligencia artificial. “A quienes trabajamos en el campo de la ética nos interesa muchísimo que el conocimiento progrese. La ciencia y la técnica, bien encaminadas, son extraordinarias para la humanidad”, dispara para arrancar la conversación. “La cuestión es que a veces lo están y otras no”. De eso va su nueva obra, ¿Ética o ideología de la inteligencia artificial? (Paidós).
Catedrática emérita de Ética y Filosofía Política de la Universidad de Valencia y doctora honoris causa por ocho universidades nacionales y extranjeras, Cortina es una de las pensadoras más conocidas de España. Fue la primera mujer en ingresar en la Real Academia de Ciencias Morales y Políticas y es autora de más de una treintena de libros, entre los que sobresalen Aporofobia, el rechazo al pobre (2017) o ¿Para qué sirve realmente la ética? (Premio Nacional de Ensayo 2014). En esta ocasión, la filósofa se fija en la tecnología que acapara la atención mundial desde que hace dos años, cuando irrumpió ChatGPT.
“Creo que [Karl-Otto] Apel y [Jürgen] Habermas tenían razón cuando decían que hay tres intereses del conocimiento: el técnico, el práctico y el de la emancipación –señala–. La IA es un saber científico-técnico que hay que encaminar en alguna dirección. Si quienes lo controlan son grandes empresas que quieren poder económico o países que quieren poder geopolítico, entonces no queda nada garantizado que sea bien usado. Si esta tecnología afecta a toda la humanidad, tiene que beneficiar a toda la humanidad”.
–¿Cree que el debate en torno a la IA está ideologizado?
–En el libro me centro en las dos posiciones principales: la de los temerosos de la IA, que creen que va a ser la fuente de todos los males, y la de los más entusiastas, los transhumanistas y posthumanistas, que creen que la IA nos ayudará a llegar a un mundo absolutamente feliz. Hay quien, como Ray Kurzweil [director de Tecnología de Google], le pone fecha: él dice que en 2048 habremos acabado con la muerte. Eso sería ideología, en el sentido tradicional del término: una visión deformada de la realidad que se mantiene para perseguir determinados objetivos. Ahí no se está actuando con ética. Me parece sumamente peligroso mentir, decir que lo vamos a solucionar todo con la IA. El peligro de esa posición es que se está asentando sobre la autoridad que tiene la ciencia, y eso hace que la gente se lo tome en serio. Yo soy seguidora de la Escuela de Fráncfort, que dice que la ciencia y la técnica son una maravilla, pero que si se convierten en ideología, porque ya son una fuerza productiva, entonces hemos cambiado el sentido del asunto.
–¿Qué principios éticos debería regir una IA confiable?
–La sociedad emancipada es la que está libre de ideologías, y para eso debe dotarse de una ética. Los principios básicos son el de no maleficencia (no dañarás), el de beneficencia (harás bien), el de autonomía y el de justicia. Además de esos están los principios de trazabilidad y explicabilidad, un tema complicado cuando tratamos algoritmos, y el de rendición de cuentas. Y luego está el principio de precaución.
–¿Se está legislando bien sobre este asunto?
–A los europeos se nos suele tildar de normativistas, pero creo que no está mal ser cautelosos, están en juego vidas humanas. Eso no tiene que impedir que se siga investigando. Hace falta una ética de la responsabilidad, pero marcar hasta dónde llegamos en la investigación no es sencillo.
–En el libro debate si la IA puede ser sujeto o será siempre una herramienta. ¿Ya es momento de discutir eso?
–Dicen los especialistas que no hemos llegado aún a la inteligencia artificial general, la que sería equiparable a la de los seres humanos. Para eso sería necesario que tuvieran un cuerpo biológico, porque es la manera de tener significatividad, intencionalidad, etcétera. Lo que tenemos son inteligencias artificiales especiales, capaces de hacer muy bien, incluso mejor que nosotros, ciertas tareas. Es muy importante que sepamos dónde estamos y que se abra un debate serio sobre eso. Al día de hoy, es un instrumento, y, por tanto, tiene que ser utilizado con unos u otros fines, pero nunca tiene que sustituir a los seres humanos. No se puede reemplazar a los profesores, ni a los jueces, ni a los médicos por algoritmos. Los algoritmos no toman decisiones, sino que aportan resultados. Quien tiene que ser responsable de la decisión última es la persona. Una de las malísimas consecuencias que podría tener el uso de la IA es convertir a las máquinas en protagonistas de la vida. Hay que ir con mucho cuidado porque tenemos tendencia a la comodidad, y cuando te viene dado un resultado, puedes tener la tentación de adoptarlo sin más.
–¿Tiene sentido hablar de ética de las máquinas?
–Desde hace un tiempo se están intentando crear máquinas éticas, que tengan incorporados una serie de valores. Me parece muy interesante que se puedan asumir de alguna manera esos códigos, ya sea en los algoritmos que conducen vehículos o los robots que cuidan de ancianos, para que tomen decisiones sin necesidad de tener un humano encima todo el rato.
–Dedica la última parte del libro a tratar la relación entre la educación y la IA. ¿Por qué se fija en esta actividad?
–La educación es la clave de nuestras sociedades, y está muy descuidada. En China están muy preocupados en aplicar IA a la educación, porque dicen que si a la gente le explicamos lo de ayer, perdemos el mañana. El tema clave de la educación es la justicia: mucha gente no tiene acceso a estas herramientas, y eso hace que la brecha sea cada vez mayor. Me preocupa también la autonomía. Una de las grandes tareas de la Ilustración es potenciar la autonomía de las personas, que sepan dirigir sus propias vidas. Hemos de educar para que haya una ciudadanía crítica, madura, que se mueva por sus propias convicciones; que no se deje llevar como con andadores, como decía Kant, sino que se guíe por su propia razón. Y eso es muy difícil en un mundo en el que las plataformas intentan que les dediquemos mucho tiempo para recabar nuestros datos. Están superficializando la enseñanza y haciendo que las personas sean cada vez menos autónomas. Creo que la autonomía está en peligro, y eso es malo para la democracia.
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&
Daniel Gordis. «Para Israel, Trump es mejor en el corto plazo, pero no en el largo»
Irán teme la imprevisibilidad del presidente electo de EE.UU, dice el intelectual judío; el peligro, señala, es que el magnate dañe la democracia estadounidense
Daniel Helft
“La gente en Gaza está empezando a pedir por la paz”, dice Gordis Ben
Daniel Gordis es uno de los intelectuales, escritores, comentaristas más reconocidos del mundo cuando se trata de analizar la actualidad de Israel y Medio Oriente. El Jerusalem Post lo nombró uno de los 50 pensadores judíos más importantes del mundo, y la revista norteamericana The Atlantic lo señaló como la persona más preocupada en el mundo por la salud fisica, moral y espiritual de Israel.
Gordis ha publicado 13 libros sobre Israel que en dos oportunidades recibieron premios del National Jewish Book Award. Su libro sobre la historia de Israel (A Concise History of a Nation Reborn) fue galardonado por esta organización como el mejor de 2016. El veterano diplomático norteamericano Dennis Ross, alto funcionario de los presidentes George H.W. Bush y Bill Clinton se refirió al libro como el mejor volumen existente para comprender la historia de Israel. Desde el abogado conservador Alan Dershowitz hasta el periódico progresista norteamericano The Forward coinciden en señalarlo como una de las voces más sutiles y reflexivas en relación a Israel y el Medio Oriente.
Gordis no le ha escapado a las polémicas fuertes, en particular ante la poderosa comunidad judía norteamericana de la cual proviene. No está asociado a sectores de izquierda, pero ha sido muy crítico del actual primer ministro, Benjamin Netanyahu, por su intento de avanzar sobre la Corte Suprema, por su falta de patriotismo al priorizar su interés personal sobre el del país y, más recientemente, por haber echado a un sólido ministro de Defensa en medio de una guerra que está lejos de llegar a su fin.
Nacido en Nueva York hace 65 años y criado en Baltimore, Gordis reside desde 1998 en Jerusalen, donde es profesor emérito y exvicepresidente del Shalem College, una universidad de elite especializada en humanidades. En una charla por Zoom, analizó con la nueva realidad de Medio Oriente a partir de la victoria de Donald Trump a la presidencia de los Estados Unidos.
Gordis considera a Biden como un hombre profundamente interesado y preocupado por el destino de Israel, lo cuál no ocurre con el presidente electo (“a Trump sólo le preocupa Trump”). Sin embargo, explicó por qué los israelíes creen que el magnate puede actuar eficazmente como un freno a los avances de Irán, Rusia, China y Corea del Norte.
Respecto a la candidata del Partido Demócrata, Kamala Harris, Gordis entiende que la sociedad israelí la vio como una nueva versión de Obama, y recuerda que dicho expresidente tuvo una relación difícil con Israel. Asi y todo, destaca la enorme emoción que sintió al votar por Obama para presidente de los
Estados Unidos, luego de haber crecido en un país donde el racismo era más la norma que la excepción.
–¿Qué representa para Israel esta transición entre Biden y Trump?
–Por de pronto, en Israel hay gran consenso acerca de la necesidad de forzar un cambio de régimen en Irán. Si esto ocurre, desaparece Hezbollah, los hutíes y Hamas. Muchos argumentan que este es un gran momento para hacerlo. A Israel ya no le influye la opinión de Biden, porque está en la clásica situación de pato rengo. Le quedan pocos meses en el gobierno. Y a Trump lo que haga Israel ahora no le afecta, porque cuando él asuma, lo que se hizo antes no es su responsabilidad. Y todos saben que Irán está muy cerca de ser una potencia nuclear. También es posible que para Biden, que no deja un gran legado, sea un plan apetecible dejarle a Occidente la destrucción del programa nuclear iraní. Porque está claro que cuando hablamos de Irán estamos hablando del eje compuesto por Rusia, Irán, Corea del Norte y China, que son una amenaza para todo Occidente. Y tal vez Biden se convenza de que es un buen momento para avanzar.
–Por lo pronto, Irán habló de volver a atacar a Israel.
–Lo que sucede es que Irán fue humillado en la última incursión israelí a mediados de octubre y tiene que demostrarle a su pueblo que puede defenderse. El daño que causó Israel fue mucho más importante de lo que se dijo inicialmente. Entraron 100 aviones a territorio iraní, destruyeron sus defensas anti-aéreas y su capacidad de construir más misiles balísticos. Y salieron sin un sólo avión averiado. Sin pérdidas. Regresaron haciendo formaciones en V con los israelíes en tierra sacando fotos y vitoreando.
–Si Irán vuelve a lanzar misiles sobre Israel, ¿le daría la excusa perfecta a Netanyahu para destruir su programa nuclear?
–Si Irán vuelve a atacar a Israel la presión sobre Netanyahu para que destruya las facilidades nucleares iraníes va a ser demasiado fuerte. Los israelíes se van a volver locos. Va a tener que responder de modo muy contundente. Y en este tema no hay derecha e izquierda. De hecho, no hay ninguna diferencia en cómo los diferentes sectores ideológicos en Israel ven esta situación. Todos coinciden que hay que responder de forma muy categórica. En eso no hay grieta.
–¿Cómo explica el apoyo mayoritario israelí a Trump?
–La mayoría de los israelíes no sabe cómo funcionan las instituciones norteamericanas. Lo que saben es que con Trump se trasladó la embajada norteamericana a Jerusalén y se firmaron los Acuerdos Abraham [que sellaron la normalización de las relaciones con los Emiratos Arabes y con Bahrein]. Además, en ese momento nadie atacó a Israel. Esa es la realidad. Y veían a Kamala Harris como una suerte de nuevo Obama, con el recuerdo de que esa relación fue muy floja. También saben que para el legado de Trump y Netanyahu es importante un acuerdo con Arabia Saudita y creen Trump podría inyectar mucho dinero para que eso suceda. Sin embargo, los israelíes sofisticados saben que al final del día, cuando se va a dormir, a Trump le importa una sola cosa y eso es Donald Trump. Es un hombre de negocios, y si por negocios tiene que ir en contra de los intereses de Israel, lo va a hacer sin problema. No le importa Israel y no se va a presentar a un nuevo período, con lo cual ya no le importa el voto judío.
–¿O sea que su apoyo a Israel no será incondicional?
–Es una cuestión del corto plazo versus el largo. Los israelíes, incluso los más sofisticados, creen que en el corto plazo Trump probablemente sea mejor para Israel. Porque los iraníes le tienen miedo. Irán quería que ganara Harris, eso estaba muy claro, porque con Trump no se pueden predecir sus movimientos. Saben que se puede levantar un día y darle a los militares la orden de atacar Irán. Es lo suficientemente loco como para tener preocupado a los iraníes. Ahora bien, en el largo plazo Israel necesita una democracia norteamericana fuerte y floreciente, y si Trump la destruye, eso obviamente es malo para Israel. Sin embargo, los israelíes tienen a sus hijos peleando una guerra y eso es hoy. Y lo que quieren saber es cómo van a ser los próximos seis meses. En el corto plazo, entonces, Trump resulta mejor porque seguirá vendiendo armas a Israel y apoyándolo. Y los iraníes estarán con miedo.
–Harris exigía un cese del fuego, pero Trump también dijo que pensaba terminar con las guerras.
–Los israelíes quieren que termine la guerra y saben que Netanyahu no hubiera tomado en consideración las demandas de Harris. En cambio es probable que sí lo haga con los pedidos de Trump. Porque ignorarlo es quedar expuesto a lo que pueda hacer, y eso es impredecible. Es la ventaja de la persona loca. Esa faceta le da poder a Trump. De hecho, muchos israelíes piensan que es bueno que Putin no sepa cómo va a reaccionar Trump y es bueno que Irán tampoco lo sepa. Muchos piensan que esa falta de previsibilidad es buena, pero Netanyahu también sabe que es impredecible y se tiene que cuidar. Y si Trump lo llama y le pide que para la fecha de su inauguración, el 19 de enero próximo, la guerra esté terminada, yo creo que la guerra va a estar terminada.
–¿Con los objetivos cumplidos?
–Hamas está destruido. Todos entendemos que nunca se van a eliminar todos los terroristas que están en Gaza. Tendremos que seguir entrando periódicamente. Y la gente en Gaza está comenzando a pedir por la paz y que Hamas se aparte de sus vidas. En cambio Hezbollah no está bajo control, y si bien decimos que le hemos destruido el 80% de sus cohetes, nuestros soldados siguen muriendo todos los días. Y civiles también. Y hay 80.000 civiles que no pueden retornar a sus hogares. Y si llega el 19 de enero y no se acabó con Hezbollah, Netanyahu se verá forzado a obtener algún acuerdo internacional. Si Israel no puede deshacerse de Hezbollah, habremos cedido parte de nuestro tierra a un ejército que ni siquiera tiene presencia física en nuestro territorio y eso es inaceptable.
Daniel Gordis es uno de los intelectuales, escritores, comentaristas más reconocidos del mundo cuando se trata de analizar la actualidad de Israel y Medio Oriente. El Jerusalem Post lo nombró uno de los 50 pensadores judíos más importantes del mundo, y la revista norteamericana The Atlantic lo señaló como la persona más preocupada en el mundo por la salud fisica, moral y espiritual de Israel.
Gordis ha publicado 13 libros sobre Israel que en dos oportunidades recibieron premios del National Jewish Book Award. Su libro sobre la historia de Israel (A Concise History of a Nation Reborn) fue galardonado por esta organización como el mejor de 2016. El veterano diplomático norteamericano Dennis Ross, alto funcionario de los presidentes George H.W. Bush y Bill Clinton se refirió al libro como el mejor volumen existente para comprender la historia de Israel. Desde el abogado conservador Alan Dershowitz hasta el periódico progresista norteamericano The Forward coinciden en señalarlo como una de las voces más sutiles y reflexivas en relación a Israel y el Medio Oriente.
Gordis no le ha escapado a las polémicas fuertes, en particular ante la poderosa comunidad judía norteamericana de la cual proviene. No está asociado a sectores de izquierda, pero ha sido muy crítico del actual primer ministro, Benjamin Netanyahu, por su intento de avanzar sobre la Corte Suprema, por su falta de patriotismo al priorizar su interés personal sobre el del país y, más recientemente, por haber echado a un sólido ministro de Defensa en medio de una guerra que está lejos de llegar a su fin.
Nacido en Nueva York hace 65 años y criado en Baltimore, Gordis reside desde 1998 en Jerusalen, donde es profesor emérito y exvicepresidente del Shalem College, una universidad de elite especializada en humanidades. En una charla por Zoom, analizó con la nueva realidad de Medio Oriente a partir de la victoria de Donald Trump a la presidencia de los Estados Unidos.
Gordis considera a Biden como un hombre profundamente interesado y preocupado por el destino de Israel, lo cuál no ocurre con el presidente electo (“a Trump sólo le preocupa Trump”). Sin embargo, explicó por qué los israelíes creen que el magnate puede actuar eficazmente como un freno a los avances de Irán, Rusia, China y Corea del Norte.
Respecto a la candidata del Partido Demócrata, Kamala Harris, Gordis entiende que la sociedad israelí la vio como una nueva versión de Obama, y recuerda que dicho expresidente tuvo una relación difícil con Israel. Asi y todo, destaca la enorme emoción que sintió al votar por Obama para presidente de los
Estados Unidos, luego de haber crecido en un país donde el racismo era más la norma que la excepción.
–¿Qué representa para Israel esta transición entre Biden y Trump?
–Por de pronto, en Israel hay gran consenso acerca de la necesidad de forzar un cambio de régimen en Irán. Si esto ocurre, desaparece Hezbollah, los hutíes y Hamas. Muchos argumentan que este es un gran momento para hacerlo. A Israel ya no le influye la opinión de Biden, porque está en la clásica situación de pato rengo. Le quedan pocos meses en el gobierno. Y a Trump lo que haga Israel ahora no le afecta, porque cuando él asuma, lo que se hizo antes no es su responsabilidad. Y todos saben que Irán está muy cerca de ser una potencia nuclear. También es posible que para Biden, que no deja un gran legado, sea un plan apetecible dejarle a Occidente la destrucción del programa nuclear iraní. Porque está claro que cuando hablamos de Irán estamos hablando del eje compuesto por Rusia, Irán, Corea del Norte y China, que son una amenaza para todo Occidente. Y tal vez Biden se convenza de que es un buen momento para avanzar.
–Por lo pronto, Irán habló de volver a atacar a Israel.
–Lo que sucede es que Irán fue humillado en la última incursión israelí a mediados de octubre y tiene que demostrarle a su pueblo que puede defenderse. El daño que causó Israel fue mucho más importante de lo que se dijo inicialmente. Entraron 100 aviones a territorio iraní, destruyeron sus defensas anti-aéreas y su capacidad de construir más misiles balísticos. Y salieron sin un sólo avión averiado. Sin pérdidas. Regresaron haciendo formaciones en V con los israelíes en tierra sacando fotos y vitoreando.
–Si Irán vuelve a lanzar misiles sobre Israel, ¿le daría la excusa perfecta a Netanyahu para destruir su programa nuclear?
–Si Irán vuelve a atacar a Israel la presión sobre Netanyahu para que destruya las facilidades nucleares iraníes va a ser demasiado fuerte. Los israelíes se van a volver locos. Va a tener que responder de modo muy contundente. Y en este tema no hay derecha e izquierda. De hecho, no hay ninguna diferencia en cómo los diferentes sectores ideológicos en Israel ven esta situación. Todos coinciden que hay que responder de forma muy categórica. En eso no hay grieta.
–¿Cómo explica el apoyo mayoritario israelí a Trump?
–La mayoría de los israelíes no sabe cómo funcionan las instituciones norteamericanas. Lo que saben es que con Trump se trasladó la embajada norteamericana a Jerusalén y se firmaron los Acuerdos Abraham [que sellaron la normalización de las relaciones con los Emiratos Arabes y con Bahrein]. Además, en ese momento nadie atacó a Israel. Esa es la realidad. Y veían a Kamala Harris como una suerte de nuevo Obama, con el recuerdo de que esa relación fue muy floja. También saben que para el legado de Trump y Netanyahu es importante un acuerdo con Arabia Saudita y creen Trump podría inyectar mucho dinero para que eso suceda. Sin embargo, los israelíes sofisticados saben que al final del día, cuando se va a dormir, a Trump le importa una sola cosa y eso es Donald Trump. Es un hombre de negocios, y si por negocios tiene que ir en contra de los intereses de Israel, lo va a hacer sin problema. No le importa Israel y no se va a presentar a un nuevo período, con lo cual ya no le importa el voto judío.
–¿O sea que su apoyo a Israel no será incondicional?
–Es una cuestión del corto plazo versus el largo. Los israelíes, incluso los más sofisticados, creen que en el corto plazo Trump probablemente sea mejor para Israel. Porque los iraníes le tienen miedo. Irán quería que ganara Harris, eso estaba muy claro, porque con Trump no se pueden predecir sus movimientos. Saben que se puede levantar un día y darle a los militares la orden de atacar Irán. Es lo suficientemente loco como para tener preocupado a los iraníes. Ahora bien, en el largo plazo Israel necesita una democracia norteamericana fuerte y floreciente, y si Trump la destruye, eso obviamente es malo para Israel. Sin embargo, los israelíes tienen a sus hijos peleando una guerra y eso es hoy. Y lo que quieren saber es cómo van a ser los próximos seis meses. En el corto plazo, entonces, Trump resulta mejor porque seguirá vendiendo armas a Israel y apoyándolo. Y los iraníes estarán con miedo.
–Harris exigía un cese del fuego, pero Trump también dijo que pensaba terminar con las guerras.
–Los israelíes quieren que termine la guerra y saben que Netanyahu no hubiera tomado en consideración las demandas de Harris. En cambio es probable que sí lo haga con los pedidos de Trump. Porque ignorarlo es quedar expuesto a lo que pueda hacer, y eso es impredecible. Es la ventaja de la persona loca. Esa faceta le da poder a Trump. De hecho, muchos israelíes piensan que es bueno que Putin no sepa cómo va a reaccionar Trump y es bueno que Irán tampoco lo sepa. Muchos piensan que esa falta de previsibilidad es buena, pero Netanyahu también sabe que es impredecible y se tiene que cuidar. Y si Trump lo llama y le pide que para la fecha de su inauguración, el 19 de enero próximo, la guerra esté terminada, yo creo que la guerra va a estar terminada.
–¿Con los objetivos cumplidos?
–Hamas está destruido. Todos entendemos que nunca se van a eliminar todos los terroristas que están en Gaza. Tendremos que seguir entrando periódicamente. Y la gente en Gaza está comenzando a pedir por la paz y que Hamas se aparte de sus vidas. En cambio Hezbollah no está bajo control, y si bien decimos que le hemos destruido el 80% de sus cohetes, nuestros soldados siguen muriendo todos los días. Y civiles también. Y hay 80.000 civiles que no pueden retornar a sus hogares. Y si llega el 19 de enero y no se acabó con Hezbollah, Netanyahu se verá forzado a obtener algún acuerdo internacional. Si Israel no puede deshacerse de Hezbollah, habremos cedido parte de nuestro tierra a un ejército que ni siquiera tiene presencia física en nuestro territorio y eso es inaceptable.
http://indecquetrabajaiii.blogspot.com.ar/. INDECQUETRABAJA
No hay comentarios.:
Publicar un comentario
Nota: sólo los miembros de este blog pueden publicar comentarios.