“Quienes controlen la inteligencia artificial controlan muchas cosas en nuestras vidas”: Las críticas sobre la IA de Paolo Benanti, el asesor tecnológico del Papa

Desde el “boom” de la IA generativa en 2022, ha sido el tema de discusión constante en las casa, universidades y hasta entre parlamentarios. Incluso, la primera encíclica del Papa León XIV, trataba de los debates detrás de esta tecnología, alcanzando una fama que obligo a las librerías especializadas a reponer constantemente el texto, convirtiéndolo en uno de los títulos religiosos más vendidos en los últimos meses.

Pero dentro de la Santa Sede, hay una persona aún más interesada en tecnología que el Papa, Paolo Benanti. El sacerdote obtuvo un doctorado en Teología moral, en la Pontifica Universidad Gregoriana, institución en la que hace clases hasta el día de hoy. Junto a esto, es miembro de la Comisión de expertos en materia de IA de la Organización de las Naciones Unidas (ONU) y asesora al Consejo Italiano sobre el rol de la IA en el periodismo y los medios.

Pero, más allá de su extenso currículum en inteligencia artificial ,es la persona a la que recurría el Papa Francisco cuando necesitaba alguna explicación sobre conceptos tecnológicos. Luego de la muerte de Bergoglio, siguió en el Vaticano asesorando a León XIV. Es conocido como el asesor papal en ética de la Inteligencia Artificial.

Hoy, llegó a Chile para el lanzamiento de Nodo IA de la Pontificia Universidad Católica, un área de la Vicerrectoría de Inteligencia Digital que se dedicará a guiar el desarrollo y uso de la inteligencia artificial. En el evento, el sacerdote franciscano dio una charla sobre el rol de la humanidad entre la expansión de la IA, y cómo ha transformado al poder y la sociedad.

“La tecnología no es solo tecnología, es algo más, y su última versión, la IA, está cambiando la naturaleza del mundo”

La charla del sacerdote empezó con una dura crítica hacia la industria que se encarga del desarrollo de la inteligencia artificial, “la que la tecnología no es solo tecnología, es algo más. Pero la última versión [la IA] está cambiando la naturaleza del mundo. Las personas que controlen la inteligencia artificial serán capaces de controlar muchas cosas en nuestras vidas”, afirmó Benanti.

El experto explicó que sólo en 2026, las cuatro empresas más valiosas del mercado global, AWS (Amazon), Meta, Microsoft y Google, invirtieron en efectivo US$ 650.000 millones. Esto sería 1,5 veces el PIB de Chile. Por esto, el experto detalla que se usa el capital como un “foso geopolítico”, porque no existiría la inteligencia artificial sin una cantidad de dinero importante, de alguien que decide “entrar en el juego”.

Recordó además del problema del hardware existente en el desarrollo de la Inteligencia Artificial y el llamado “impuesto térmico”. Cuando una IA generativa piensa, genera calor, es un servicio que consume muchos recursos. Por ejemplo, 40% de la energía que utiliza la IA va a sus sistemas de enfriamiento. Explica además que esto abre una paradoja, “¿cómo resolver el cambio climático con máquinas hambrientas de energía?”.

El sacerdote hizo énfasis en que Chile ha perdido un 37% de sus recursos hídricos en los últimos 30 años, y que los sistemas informáticos de la IA requieren grandes cantidades de agua, de hecho, un centro de datos puede consumir tanta agua como una ciudad de 30.000 habitantes.

Destacó las lecciones que deja la encíclica del Papa, expresando que, como dijo León XIV, “no podemos considerar a la IA como moralmente neutra. En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones”.

Desde la Santa Sede opinan que no se trata de un instrumento para usar de forma correcta o incorrecta, si no más bien debemos cuestionarnos el modo en que está diseñado “y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían”.

El pensamiento crítico como solución al problema

El sacerdote hizo énfasis en el uso del pensamiento crítico como respuesta a una tecnología que va más rápido que la regulación humana. Para él, es importante tener un “gimnasio cognitivo” y lo fundamental que es ejercer la libertad para “aceptar o rechazar soluciones que simplemente impliquen renunciar a algo que para uno es importante. Nadie está obligado a unirse a Instagram, WhatsApp o plataformas similares. Creo que mantener una mente crítica es la solución a este problema”.

Para él, el tema del control es un desafío constante: “Si vemos a alguien usando un smartphone, ¿es su dedo el que funciona como sensor para controlar la máquina, o son las notificaciones del celular las que funcionan como sensor y controla al ser humano?”, dice Benanti.

Sobre esto, destacó el rol de las universidades en la contribución a generar mejores resultados para las personas y la sociedad: “Creo que esa es la acción más importante que podemos llevar a cabo para preservar al ser humano. Es un desafío para la universidad para producir a los mejores hombres y mujeres profesionales y que no sean controlados”.