Z. Bauman, Extraños llamando a la puerta
N. Chomsky, Porque lo decimos nosotros
E. Fottorino (comp.), ¿Quién es Dáesh?
P. Khanna, Conectografía
J. Wajcman, Esclavos del tiempo
P. Singer, Vivir éticamente
Z. Bauman, Retrotopía
A. Cortina, Aporofobia, el rechazo al pobre
U. Beck, La metamorfosis del mundo
O. Nachtwey, La sociedad del descenso
N. Klein, Decir no no basta
K. Raworth, Economía rosquilla
Z. Bauman y Th. Leoncini, Generación líquida
D. Casassas, Libertad incondicional
Y. Mounk, El pueblo contra la democracia
M. Albright, Fascismo
M. Yunus, Un mundo de tres ceros
N. Klein, La batalla por el paraíso
Z. Bauman y L. Donskis, Maldad líquida
D. Runciman, Así termina la democracia
M. C. Nussbaum, La monarquía del miedo
J. Rifkin, El Green New Deal global
P. Mason, Por un futuro brillante
M. C. Nussbaum, La tradición cosmopolita
S. Zuboff, La era del capitalismo de la vigilancia
E. Morin, Cambiemos de vía
N. Klein, En llamas
C. Mudde, La ultraderecha hoy
M. Yunus, El banquero de los pobres
A. Cortina, Ética cosmopolita
F. Zakaria, Diez lecciones para el mundo de la postpandemia
M. Shafik, Lo que nos debemos unos a otros
A. Mbembe, Brutalismo
E. Morin, Lecciones de un siglo de vida
M. C. Nussbaum, Ciudadelas de la soberbia
Y. Mounk, El gran experimento
J. Rifkin, La era de la resiliencia
M. C. Nussbaum, India
Q. Slobodian, El capitalismo de la fragmentación
M. C. Nussbaum, Justicia para los animales
N. Klein, Doppleganger
E. Morin, ¡Despertemos!
Y. Mounk, La trampa identitaria
A. Cortina, ¿Ética o ideología de la inteligencia artificial?
Z. Bauman, Extraños llamando a la puerta
N. Chomsky, Porque lo decimos nosotros
E. Fottorino (comp.), ¿Quién es Dáesh?
P. Khanna, Conectografía
J. Wajcman, Esclavos del tiempo
P. Singer, Vivir éticamente
Z. Bauman, Retrotopía
A. Cortina, Aporofobia, el rechazo al pobre
U. Beck, La metamorfosis del mundo
O. Nachtwey, La sociedad del descenso
N. Klein, Decir no no basta
K. Raworth, Economía rosquilla
Z. Bauman y Th. Leoncini, Generación líquida
D. Casassas, Libertad incondicional
Y. Mounk, El pueblo contra la democracia
M. Albright, Fascismo
M. Yunus, Un mundo de tres ceros
N. Klein, La batalla por el paraíso
Z. Bauman y L. Donskis, Maldad líquida
D. Runciman, Así termina la democracia
M. C. Nussbaum, La monarquía del miedo
J. Rifkin, El Green New Deal global
P. Mason, Por un futuro brillante
M. C. Nussbaum, La tradición cosmopolita
S. Zuboff, La era del capitalismo de la vigilancia
E. Morin, Cambiemos de vía
N. Klein, En llamas
C. Mudde, La ultraderecha hoy
M. Yunus, El banquero de los pobres
A. Cortina, Ética cosmopolita
F. Zakaria, Diez lecciones para el mundo de la postpandemia
M. Shafik, Lo que nos debemos unos a otros
A. Mbembe, Brutalismo
E. Morin, Lecciones de un siglo de vida
M. C. Nussbaum, Ciudadelas de la soberbia
Y. Mounk, El gran experimento
J. Rifkin, La era de la resiliencia
M. C. Nussbaum, India
Q. Slobodian, El capitalismo de la fragmentación
M. C. Nussbaum, Justicia para los animales
N. Klein, Doppleganger
E. Morin, ¡Despertemos!
Y. Mounk, La trampa identitaria
A. Cortina, ¿Ética o ideología de la inteligencia artificial?
Z. Bauman, Extraños llamando a la puerta
N. Chomsky, Porque lo decimos nosotros
E. Fottorino (comp.), ¿Quién es Dáesh?
P. Khanna, Conectografía
J. Wajcman, Esclavos del tiempo
P. Singer, Vivir éticamente
Z. Bauman, Retrotopía
A. Cortina, Aporofobia, el rechazo al pobre
U. Beck, La metamorfosis del mundo
O. Nachtwey, La sociedad del descenso
N. Klein, Decir no no basta
K. Raworth, Economía rosquilla
Z. Bauman y Th. Leoncini, Generación líquida
D. Casassas, Libertad incondicional
Y. Mounk, El pueblo contra la democracia
M. Albright, Fascismo
M. Yunus, Un mundo de tres ceros
N. Klein, La batalla por el paraíso
Z. Bauman y L. Donskis, Maldad líquida
D. Runciman, Así termina la democracia
M. C. Nussbaum, La monarquía del miedo
J. Rifkin, El Green New Deal global
P. Mason, Por un futuro brillante
M. C. Nussbaum, La tradición cosmopolita
S. Zuboff, La era del capitalismo de la vigilancia
E. Morin, Cambiemos de vía
N. Klein, En llamas
C. Mudde, La ultraderecha hoy
M. Yunus, El banquero de los pobres
A. Cortina, Ética cosmopolita
F. Zakaria, Diez lecciones para el mundo de la postpandemia
M. Shafik, Lo que nos debemos unos a otros
A. Mbembe, Brutalismo
E. Morin, Lecciones de un siglo de vida
M. C. Nussbaum, Ciudadelas de la soberbia
Y. Mounk, El gran experimento
J. Rifkin, La era de la resiliencia
M. C. Nussbaum, India
Q. Slobodian, El capitalismo de la fragmentación
M. C. Nussbaum, Justicia para los animales
N. Klein, Doppleganger
E. Morin, ¡Despertemos!
Y. Mounk, La trampa identitaria
A. Cortina, ¿Ética o ideología de la inteligencia artificial?
1. Las máquinas no están hechas para entender una
mentira15
2. De la isla de Moreau a las leyes de Asimov y más allá18
3. Un robot no debe dañar a un ser humano23
4. El secreto de la máquina. Cuestiones cruciales24
5. Cuidar la palabra, cultivar la democracia26
1. Políticos y empresarios virtuales29
2. ¿Qué es la inteligencia artificial?33
3. La inteligencia artificial se dice de muchas maneras34
4. ¿Hasta dónde hemos llegado?42
1. Julian y Aldous Huxley: utopía y distopía43
2. ¿Qué es el transhumanismo? Religión sin revelación44
3. El primer deber ético de las tecnociencias es no
engañar52
4. Silicon Valley, China, la Unión Europea.
Geoestrategia del poder55
5. ¿Desde qué ética?58
1. El «efecto Bruselas»61
2. La ventaja competitiva de la Unión Europea64
3. El coste de oportunidad en una carrera sin
compasión66
4. Principios éticos para la revolución 4.069
1. La robótica y la Cuarta Revolución Industrial81
2. Los desafíos éticos de la robótica86
3. La necesidad de una ética para las máquinas88
4. ¿Roboética, ética de las máquinas o ética de agentes artificiales autónomos?90
1. El experimento de los coches autónomos97
2. Razones para integrar una ética en las máquinas100
3. ¿Pueden los sistemas artificiales ser agentes morales?102
4. Tres enfoques de teorías éticas106
5. Cinco marcos éticos: deber, utilidad, virtud,
capacidades, diálogo108
1. ¿Singularidad de la humanidad?123
2. Personas electrónicas: un debate en el mundo
europeo125
3. El círculo de personas se amplía más allá de los seres humanos129
4. ¿Superando el biocentrismo?134
1. La tragedia de Edipo rey139
2. El afán imperialista de las ciencias triunfantes por
negar la libertad140
3. Determinismo tecnológico141
1. Hacia dónde queremos ir145
2. La razón comunicativa: más allá de la razón
instrumental146
3. A los dictadores les gusta parecer demócratas148
4. Cuidar la palabra frente a sus enemigos151
5. Tiempos de «posveracidad»154
6. ¿Teoría de la justicia social crítica?159
7. La palabra se vacía de significado164
1. El miedo al aislamiento: una mordaza para la razón comunicativa167
2. Dos concepciones de la opinión pública172
3. La «agresión moralista»175
4. Lo moral en serio179
1. Una mesa es una mesa183
2. Lenguaje inteligible188
3. Claridad es la plenitud de la vida191
4. Oscuridad como arma ideológica194
5. De la cortesía del filósofo al derecho de
las personas197
1. Inteligencia artificial en educación, ¿para qué?203
2. Luces y sombras de la inteligencia artificial207
3. La autonomía personal y la capacidad crítica
en peligro212
4. ¿Qué hacer? Educar en una autonomía cordial218
La inteligencia artificial (IA) nació en el pasado siglo, cargada de amenazas y también
de promesas. Tanto los temerosos frente a las amenazas como los entusiastas de las
promesas reclamaron dotar a la IA de una ética.
El monstruo de Frankenstein inspiraba esa frankenfobia que exigió una ética para las
máquinas, capaz de defender a los seres humanos frente a sus posibles perjuicios,
pero sobre todo capaz también de extraer los grandes beneficios que pueden aportar
los sistemas inteligentes cuando se toman como instrumentos al servicio de los seres
humanos y de una sostenibilidad justa de la naturaleza.
En el extremo contrario, los entusiastas de la revolución 4.0 aseguraron que la IA
ayudaría a resolver los problemas de la vida cotidiana, introduciendo la magia de
los algoritmos para tomar decisiones en todos los ámbitos de la vida social, incluso
dejando esas decisiones en sus manos, sustituyendo los débiles cerebros humanos por
la fuerza de la computación o la conectividad.
Y, yendo aún más allá, un buen número de tecnocientíficos aseguraron que acabaremos
con la enfermedad, la vejez y la muerte. Que, incorporando valores morales a las máquinas,
como el amor, la compasión y la solidaridad, crearemos una nueva especie superior
a la humana conocida. Un mundo de paz y felicidad, que pondrá fin al reinado del Homo sapiens, a la época del Antropoceno, marcada por las guerras y la depredación de la naturaleza.
¿Esta segunda opción merece el nombre de «ética» o el de «ideología»? ¿No se está
calificando como ciencia lo que no lo es para atraer suculentas inversiones, conformar
las mentalidades e incluso ganar en la competencia por el poder mundial?
El primer deber de una ética de la ciencia es no engañar.
Por desgracia, desde ese afán de veracidad nos encontramos con un obstáculo difícilmente
salvable, planteado por la estructura misma de las plataformas, las redes y los algoritmos
que nacen de esta nueva revolución. La gran pregunta ética es siempre ¿hacia dónde
queremos ir?, ¿cuál es la brújula que debe orientar la construcción de mapas de carreteras
que habrán de ir cambiando con el tiempo necesariamente?
Somos los seres humanos quienes tenemos capacidad de dialogar y decidir hoy por hoy,
pero tomar decisiones conjuntas implica hacerlo desde un «nosotros» sin exclusiones,
que, valiéndose de los sistemas inteligentes, busque las respuestas adecuadas. Sin
embargo, el aumento de la conectividad, gracias a las redes, que debería llevarnos
a poder decidir conjuntamente, deliberando, qué queremos hacer de nuestro futuro,
no mejora la comunicación veraz. Por el contrario, triunfa una vez más la razón estratégica,
que pasa a ocupar todo el espacio público, y se produce el eclipse de la razón comunicativa.
Es ésta una pésima noticia si queremos fortalecer la democracia, que es una tarea
urgente, porque está en peligro en el ámbito mundial. Y, por supuesto, en España,
Europa y América Latina.
Naturalmente este libro se ha escrito en diálogo con una buena cantidad de colegas
y amigos, a los que agradezco su valiosa cooperación. No puedo mencionarlos a todos,
claro está, pero sería una palmaria injusticia no dar las gracias muy especialmente,
una vez más, a Martha Rodríguez Coronel por su ayuda tan cordial como eficiente.
Valencia, abril de 2024
En el tricentenario del nacimiento de Immanuel Kant
Capítulo 1
Lo que nos hace humanos
1. Las máquinas no están hechas para entender una mentira
Pero recordad, por favor, la ley conforme a la cual vivimos: no estamos hechos para
entender una mentira...
Al comienzo de su novela Machines Like Me, título traducido al español como Máquinas como yo y gente como vosotros, el célebre novelista británico Ian McEwan recoge este breve texto de Rudyard Kipling,
tomado de su relato «El secreto de las máquinas».
El consejo, expresado con estas palabras, resulta muy acertado en tiempos de supuesta
posverdad, cuando se dan por buenas ese tipo de mentiras emotivas que alimentan diariamente
a la gente como nosotros y pretenden dar forma a la opinión pública. Objetivo que
suelen alcanzar con éxito, porque mentir no suele tener malas consecuencias para el
mentiroso, y resultan raras, por escasas, noticias como la del pago de 785,5 millones
de dólares a que se vio obligada Fox por sus mentiras. El abogado de Dominion Voting
Systems, tras cerrarse el caso, afirmó: «La verdad importa». Ojalá tuviera razón.
Precisamente el hecho de que las máquinas supuestamente inteligentes sean incapaces
de entender una mentira es la clave del libro de McEwan, en el que muestra magistralmente
cómo resulta imposible sobrevivir en nuestro mundo sin la capacidad de discernir entre
veracidad y engaño, entre la comunicación veraz, que busca el entendimiento, como
es propio de la palabra, tanto en la vida privada como en la pública, y la manipulación
del lenguaje para obtener ventajas espurias. Y justamente es lo que nos está pasando
en un tiempo en que se oscurece la labor de la razón comunicativa y pasa a primer
plano la razón estratégica, hasta ocupar todo el espacio público. No puede decirse
que ésta sea una buena noticia para fortalecer la democracia, que es una tarea tan
urgente, porque está en peligro en todo el mundo.
Por si faltara poco, esto ocurre cuando el avance de la IA impregna nuestra existencia
y aumenta en todos los niveles los canales de lo que debería ser una comunicación
llamada a resolver los grandes problemas de un universo que es ya cosmopolita. Por
eso es urgente analizar la textura de este nuevo mundo y un buen punto de partida
puede ser la mención del libro de McEwan, que da pie a un sinfín de reflexiones, tanto
éticas como ontológicas, acerca de si los llamados «sistemas inteligentes», las máquinas
supuestamente inteligentes, tienen una inteligencia como la humana —o pueden llegar
a tenerla— y si son o pueden llegar a ser personas, seres autoconscientes y autónomos,
a los que se debe proteger con derechos y a la vez exigir responsabilidades. La gran
pregunta es si esas máquinas son instrumentos de los que los seres humanos podemos
valernos para alcanzar diversas metas, o si irán sustituyendo paulatinamente a los
seres humanos, de modo que se vaya poniendo fin a lo que se ha llamado «Antropoceno»,
la era del Homo sapiens.
La novela tiene un narrador, que forma parte de la «gente como nosotros», capaz de
entender una mentira, es decir, de entender que se puede afirmar lo contrario de lo
que se piensa con intención de engañar. El nombre del narrador y protagonista es Charlie,
y cuenta cómo habiendo heredado algún dinero a la muerte de su madre, decide emplearlo
en comprar uno de los primeros humanos manufacturados, verdaderamente viables, que
han sido puestos a la venta por 86.000 libras. En un primer lote se habían fabricado
veinticinco individuos (es lo más neutral que podemos decir): trece Evas y doce Adanes.
Charlie deseaba una Eva, pero las Evas se agotaron al cabo de una semana y tuvo que
contentarse con un Adán. A pesar de la decepción, le consolaba algo saber que también
había adquirido uno igual Alan Turing, el creador de la célebre máquina de Turing
y del test de Turing, que permite descubrir la inteligencia de una máquina comprobando
si sus respuestas son indistinguibles de las de un ser humano. Como es bien conocido,
durante la Segunda Guerra Mundial Turing dio con las claves para descifrar códigos
nazis, particularmente de la máquina Enigma. La intervención de Turing al final de
la novela con un largo y emocionado discurso es decisiva.
Obviamente, a diferencia de los hijos biológicos, que nacen con sus características
individuales (lo que John Rawls llamaría la «lotería natural» que a cada uno cabe
en suerte, pero también la «lotería social», porque el feto va absorbiendo las enseñanzas
de su entorno sociocultural y los entornos son muy diferentes según el país y el código
postal), la personalidad de Adán tiene que ser programada, y por eso se vende al humano
manufacturado con un manual de instrucciones de cuatrocientas setenta páginas. Llevar
a cabo la tarea de programarlo es ineludible para ponerlo en funcionamiento —¿para
darle la vida?—, pero a la vez es un tanto frustrante, porque, a pesar de la programación
inicial, el aprendizaje de máquinas irá configurando su personalidad y condicionando
sus decisiones a lo largo de su existencia. No digamos ya desde la aparición de la
IA generativa, capaz de producir contenidos originales, inesperados en todas las actividades
sociales.
Estas innovaciones parecen refrendar la sugerencia de algunos autores de educar a
las máquinas en aquellos valores morales que consideramos importantes, empezando el
proceso educativo antes de que nazcan, insertándoles en el «cerebro» de silicio unos
valores que ya irán rumiando desde el comienzo y que desarrollarán sin tener que esperar
al largo proceso de la evolución. A mi juicio, es hoy por hoy pura especulación y
plantea una buena cantidad de problemas, como veremos más adelante.
Porque desde el comienzo de la obra de McEwan se plantea la gran pregunta: ¿es posible
que la máquina tenga motivaciones, sentimientos subjetivos, autoconciencia, incluida
la capacidad para la deslealtad y la traición?
Leer más