Del transhumanismo a la inteligencia colectiva: el desafío que plantea León XIV
Durante su visita a la Argentina, el papa León XIV introdujo una discusión que excede largamente los límites de la religión. Al advertir sobre los riesgos de la inteligencia artificial, la automatización del trabajo y la concentración del poder tecnológico, puso sobre la mesa una pregunta que probablemente defina buena parte del siglo XXI: ¿al servicio de quién estará la inteligencia que estamos construyendo?
En su encuentro con el mundo del trabajo en la Universidad Católica Argentina, el Pontífice sostuvo que la tecnología debe estar subordinada a la ética y que los algoritmos no pueden reemplazar el discernimiento humano.
No se trata de una preocupación circunstancial. En su encíclica Magnifica humanitas, publicada en mayo, León XIV desarrolla una crítica al paradigma tecnocrático y, particularmente, a las corrientes transhumanistas que imaginan un futuro en el que la tecnología permitirá superar los límites de la condición humana.
La intervención de la Iglesia tiene una importancia singular. En un momento en el que buena parte del debate sobre el futuro de la humanidad está dominado por los empresarios que desarrollan estas tecnologías, aparece una institución de alcance global que cuestiona sus supuestos filosóficos y reclama que el progreso vuelva a estar subordinado a la dignidad de las personas.
Pero creo que esta discusión puede llevarnos todavía más lejos.
No alcanza con preguntarnos cómo proteger a los seres humanos de la inteligencia artificial. Necesitamos empezar a imaginar cómo utilizarla para construir una humanidad más inteligente, más cooperativa y más justa.
La promesa del transhumanismo
Detrás de algunos de los proyectos tecnológicos más ambiciosos de Silicon Valley existe una corriente filosófica que suele pasar inadvertida en el debate público: el transhumanismo.
Sus distintas expresiones comparten la aspiración de utilizar la ciencia y la tecnología para ampliar las capacidades humanas y superar limitaciones biológicas, físicas e intelectuales.
La prolongación radical de la vida, las interfaces entre el cerebro y las computadoras, la modificación genética y la posibilidad de integrar capacidades humanas con sistemas de inteligencia artificial forman parte de ese horizonte.
No todas estas aspiraciones son negativas. Buena parte del progreso médico y científico consiste, precisamente, en ampliar nuestras capacidades y superar enfermedades o discapacidades.
El problema aparece cuando el perfeccionamiento tecnológico del individuo se convierte en la principal idea de progreso y cuando quienes controlan esas tecnologías adquieren una capacidad extraordinaria para decidir cómo debería transformarse la humanidad.
¿Quiénes tendrán acceso a esas mejoras? ¿Quién decidirá qué capacidades merecen potenciarse? ¿Qué sucederá con quienes queden excluidos?
Y, fundamentalmente, ¿por qué deberíamos aceptar que el futuro de nuestra especie sea definido por un reducido grupo de empresas, inversores y especialistas?
La cuestión central no es solamente tecnológica. Es una discusión sobre el poder.
La respuesta de la Iglesia
La posición de León XIV introduce una perspectiva diferente.
Frente a la idea de que el ser humano debe superar permanentemente sus limitaciones, la Iglesia reivindica la dignidad de la persona, su vulnerabilidad, sus relaciones y su capacidad de reconocer al otro. En esta mirada, una vida humana no vale por su productividad, su capacidad intelectual o su grado de perfeccionamiento tecnológico.
La dignidad es anterior a cualquier rendimiento.
Se trata de una crítica importante a una cultura que parece confundir cada vez más el progreso con la optimización. Pero la encíclica va más allá de esa dimensión filosófica.
León XIV cuestiona que los datos, los algoritmos y las infraestructuras digitales queden concentrados en pocas manos. Recupera el principio del destino universal de los bienes y plantea que también el conocimiento y las tecnologías deben contribuir al bienestar de toda la comunidad humana.
Es una perspectiva que dialoga con la tradición de la doctrina social de la Iglesia y con la idea de una humanidad que comparte responsabilidades sobre su destino.
No sería justo afirmar que la Iglesia carece de una visión global. La tiene, y se expresa en sus ideas de solidaridad, fraternidad y bien común.
Sin embargo, todavía queda un desafío abierto: traducir esos principios en una forma concreta de organizar y gobernar la inteligencia artificial.
Porque no se trata solamente de establecer límites éticos al poder tecnológico. Se trata también de construir instituciones capaces de distribuir sus beneficios y permitir que toda la humanidad participe en la definición de sus objetivos.
Una tercera posibilidad: la inteligencia colectiva
Aquí aparece una perspectiva que considero especialmente importante.
Durante buena parte de nuestra historia, el progreso humano fue el resultado de la capacidad de acumular y compartir conocimientos.
Ninguno de los grandes avances de la civilización puede explicarse exclusivamente por la inteligencia de un individuo.
La ciencia, la medicina, las instituciones democráticas y las tecnologías modernas son el resultado de procesos colectivos de aprendizaje que atraviesan generaciones y fronteras.
La inteligencia humana siempre fue, en buena medida, una construcción social.
La inteligencia artificial abre la posibilidad de ampliar extraordinariamente esa capacidad.
Por primera vez contamos con herramientas capaces de procesar grandes cantidades de información, relacionar conocimientos dispersos, traducir idiomas, colaborar en investigaciones y facilitar la comprensión de problemas extraordinariamente complejos.
Pero el salto verdaderamente importante no debería consistir en construir individuos cada vez más inteligentes gracias a las máquinas.
Debería consistir en construir una humanidad capaz de pensar y actuar mejor colectivamente. Imaginemos sistemas de inteligencia artificial que permitan conectar investigadores de distintos continentes para acelerar el desarrollo de tratamientos médicos.
Herramientas que ayuden a comunidades vulnerables a anticipar riesgos climáticos y compartir soluciones desarrolladas en otras regiones.
Plataformas que permitan a millones de ciudadanos participar en la discusión de políticas públicas, identificar preocupaciones compartidas y elaborar propuestas que luego puedan ser evaluadas y decididas democráticamente.
O sistemas educativos capaces de poner conocimientos avanzados al alcance de cualquier persona, independientemente de su lugar de nacimiento o de sus recursos económicos.
Estas posibilidades no son soluciones automáticas. Exigen investigación, instituciones responsables, datos de calidad y mecanismos de participación. Pero permiten imaginar un horizonte de desarrollo diferente.
En lugar de una inteligencia artificial destinada a potenciar las capacidades de unos pocos, una inteligencia colectiva orientada a ampliar las oportunidades de todos.
El conocimiento como patrimonio común
Existe una contradicción profunda en el desarrollo actual de la inteligencia artificial.
Estos sistemas se construyen, en gran medida, sobre conocimientos, lenguajes y producciones culturales que la humanidad acumuló colectivamente durante siglos.
Sin embargo, una parte significativa de la capacidad de desarrollar y controlar los sistemas más avanzados se concentra en un número reducido de empresas.
El resultado podría ser una paradoja histórica: tecnologías alimentadas por el patrimonio intelectual de la humanidad cuyos principales beneficios económicos y estratégicos queden reservados a una minoría.
Por eso necesitamos discutir nuevas formas de gobernanza del conocimiento y la infraestructura tecnológica.
No se trata de negar la importancia de la inversión privada ni de desconocer el enorme esfuerzo científico y empresarial que requiere desarrollar estos sistemas.
Se trata de reconocer que una tecnología con semejante capacidad de transformación social necesita instituciones que garanticen su contribución al bien común.
Podemos imaginar infraestructuras públicas y cooperativas de inteligencia artificial, modelos abiertos cuando resulten adecuados y seguros, mecanismos internacionales de investigación compartida y sistemas de gobernanza que incorporen a universidades, Estados, organizaciones sociales y ciudadanos.
También necesitamos garantizar la privacidad, evitar la extracción indiscriminada de datos y distribuir de manera justa los costos ambientales y económicos de estas tecnologías.
La idea de una inteligencia colectiva global no debería confundirse con la construcción de un gigantesco cerebro centralizado que piense por todos.
Por el contrario, debería permitir conectar inteligencias diversas sin eliminar sus diferencias, fortalecer las capacidades locales y facilitar la cooperación entre comunidades.
No necesitamos reemplazar la pluralidad humana por una inteligencia única. Necesitamos herramientas que nos permitan aprovechar mejor esa pluralidad.
Una nueva idea de progreso
La discusión sobre el futuro de la inteligencia artificial suele quedar atrapada entre dos posiciones.
Por un lado, quienes sostienen que el desarrollo tecnológico debe avanzar con la menor cantidad posible de restricciones, confiando en que la innovación terminará generando beneficios para toda la sociedad.
Por otro, quienes advierten sobre sus riesgos y reclaman establecer límites antes de que sus consecuencias resulten irreversibles.
Ambas perspectivas plantean cuestiones relevantes, pero ninguna agota las posibilidades de esta transformación.
Creo que necesitamos incorporar una tercera pregunta: ¿qué tipo de sociedad queremos construir aprovechando las nuevas capacidades que nos ofrece la inteligencia artificial?
Porque el objetivo no debería limitarse a evitar sus efectos negativos.
También necesitamos imaginar y desarrollar activamente sus posibilidades positivas.
La humanidad enfrenta problemas que ningún país, empresa o institución puede resolver por sí solo: la crisis ambiental, las desigualdades persistentes, las enfermedades, los conflictos y las dificultades para garantizar condiciones de vida dignas a miles de millones de personas.
La inteligencia artificial podría convertirse en una herramienta extraordinaria para articular los conocimientos y los esfuerzos necesarios para enfrentar esos desafíos.
Pero esa posibilidad depende de decisiones políticas, económicas e institucionales. No surgirá espontáneamente del desarrollo de modelos cada vez más poderosos.
La inteligencia que nos falta
La intervención de León XIV tiene el mérito de recuperar una dimensión fundamental del debate tecnológico: la pregunta por el sentido del progreso.
Nos recuerda que no toda innovación constituye necesariamente una mejora de la condición humana y que ninguna acumulación de poder puede sustituir la responsabilidad ética.
Pero quizás el desafío de nuestro tiempo sea dar un paso adicional.
No solamente proteger a la humanidad frente al avance de la inteligencia artificial, sino convertir ese avance en una oportunidad para construir nuevas formas de cooperación, participación y solidaridad.
Frente al sueño transhumanista de superar los límites individuales, podemos imaginar otro horizonte: ampliar nuestra capacidad colectiva para comprender el mundo y transformarlo.
La alternativa no es elegir entre las máquinas y los seres humanos. Es decidir si la inteligencia que estamos construyendo profundizará las desigualdades existentes o contribuirá a superarlas.
El verdadero salto evolutivo que necesitamos quizás no sea crear seres humanos superiores, sino aprender a ser mejores juntos.
Y esa es, probablemente, la gran oportunidad que nos ofrece la inteligencia artificial: no reemplazar a la humanidad, sino ayudarnos a construir, por primera vez, una inteligencia colectiva verdaderamente al servicio de todos.
