El artículo de Marcelo Figueroa examina los apartados 102 a 110 del capítulo III de la encíclica Magnifica Humanitas, que tratan sobre responsabilidad, transparencia y gobernanza de la inteligencia artificial. El texto sostiene que la IA no es moralmente neutra y que su desarrollo requiere marcos jurídicos y controles efectivos, y menciona desafíos específicos para América Latina.
El artículo titulado «Responsabilidad, transparencia y gobernanza de la IA: una mirada latinoamericana de ‘Magnifica Humanitas'», escrito por Marcelo Figueroa, analiza los apartados 102 a 110 del capítulo III de la Carta Encíclica Magnifica Humanitas, cuyo capítulo se titula «Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA».
El texto afirma que, para que la IA respete la dignidad humana y sirva al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes confían decisiones concretas a estos sistemas. Sostiene que no se puede considerar a la IA como un hecho puramente técnico ni revestirla de una moralidad, objetividad y neutralismo moral cuando puede haber usos evidentemente antihumanos.
Figueroa señala que en Latinoamérica estos conceptos de gobernanza, ética algorítmica y la necesidad de «desarmar la IA» tienen suma actualidad y presentan nuevos desafíos. Menciona la presencia de discursos de odio étnico, descarte social e intolerancia religiosa que se multiplican a una velocidad virtual nunca conocida, y que en países mayormente pobres se construyen «ideologías» impensadas hace pocos años y homogeneizadas sin debate ético o moral. Añade que esta artillería algorítmica carece de valores espirituales, culturales y políticos como la compasión, la misericordia, la esperanza y el perdón.
El artículo cita varios pasajes de la encíclica. Entre ellos: «Las decisiones delicadas…, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», pudiendo así producir nuevas formas de descarte». También: «Puede haber usos evidentemente antihumanos, pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado». Y agrega: «…el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. Y, de ese modo, la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte». De esto se deriva, según la encíclica, que «no podemos considerar a la IA como moralmente neutra» (M.H. #102; #103; #104).
Figueroa sostiene que existe actualmente una tendencia en esferas de poder y gobierno de algunos países latinoamericanos a dejar que la IA se desarrolle privadamente sin control, sin regulaciones públicas responsables y a la velocidad que sea capaz. Señala que en muchos casos se argumentan valores genuinos como la libertad y el derecho al futuro, pero que la enorme asimetría entre los poderes económicos y políticos de los que detentan el dominio de la IA y la escasez de recursos de los pueblos, sumada a economías populares y nacionales diezmadas, hacen de esto una distorsión dañina. Afirma que los gobiernos democráticos necesitan discernimiento ético, responsabilidad, rendición de cuentas, prudencia, educación y marcos jurídicos adecuados.
El artículo cita nuevamente la encíclica: «Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas». «Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana». «No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea». «No podemos limitarnos a invocar la moralización de la máquina, la denominada ‘alineación’ de la IA con los valores humanos, sin tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida». «No serviría de nada una IA más moral, si esta moral es decidida por unos pocos». «Por eso es indispensable que el uso de la IA —sobre todo cuando involucra bienes públicos y derechos fundamentales— esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad; las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que deben poder contribuir al discernimiento y a la vigilancia. Además, la propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse» (M.H. #105; #106; #107; #108).
Figueroa indica que en el «continente moreno» no hay guerras, ni carrera armamentística ni utilización de tecnología bélica para dominar. Sin embargo, afirma que desde otras latitudes han incursionado quienes con poder tecnológico hallaron ambientes propicios para lograr que esto equivalga a tener derecho a tomar decisiones económicas, ecológicas, sociales y hasta políticas. Sostiene que este armamento tecnológico que ha migrado hasta nosotros necesita ser desarmado para que, sin desconocer su existencia, se la haga asimilable y acogedora a nuestras culturas.
El texto cita el apartado 110 de la encíclica: «Quisiera, por último, usar una palabra muy importante para mí: ‘desarmar’. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora».
Finalmente, Figueroa se une desde Latinoamérica al llamamiento del Papa León XIV en el apartado 111 de su encíclica, para que la innovación tecnológica sea «una forma humana de participación en el acto divino de la creación… con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien».