IA debe ser regulada y desarmada para hacerla acogedora: papa León XIV

El papa León XIV presentó la encíclica Magnifica Humanitas: sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial, documento donde reflexiona sobre el trasfondo, los usos, el impacto humano y los riesgos de esta tecnología, con miras a proteger la dignidad y capacidad humana.

En la encíclica, León XIV señaló que los aspectos científicos fundamentales sobre la Inteligencia Artificial siguen siendo desconocidos. Por eso, opinó que hay una urgencia de profundización de la investigación científica sobre la materia, así como un ejercicio de discernimiento moral y espiritual en torno a la misma.

Respecto a lo primero, el sacerdote resaltó que actualmente los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la Inteligencia Artificial “crece”. En ese sentido, consideró necesario evitar equiparar la «inteligencia humana» con la «inteligencia artificial». Subrayó que si bien ofrece velocidad y amplitud de cálculo, con beneficios concretos en numerosos campos, esta potencia sigue ligada exclusivamente al tratamiento de datos.

«Las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias», expresó.

Por otra parte, expuso que estas herramientas pueden imitar lenguajes, comportamientos y valoraciones, así como simular empatía o comprensión, pero no conocen lo que producen. Mencionó que aunque se presentan con capacidad de «aprender», lo hacen de modo diferente, pues ese aprendizaje no ocurre a través de la experiencia, el error, el perdón o la fidelidad, sino a través de una adaptación estadística a partir de datos y retroalimentaciones que carece de «crecimiento interior».

El pontífice también dijo que es necesario que la inteligencia humana, con su conciencia y libertad, sea la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y límites. Comentó que si bien es de valiosa ayuda, al mismo tiempo exige un enfoque prudente y cauteloso ante su notable crecimiento en los últimos años.

León XIV aceptó que mediante ella es posible obtener rápidamente indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta que simplifican la vida cotidiana. No obstante, advirtió que pueden acostumbrar a las personas a delegar demasiado y buscar respuestas rápidas, lo cual debilita el juicio personal y la creatividad.

«La impresión de objetividad, que las respuestas y las propuestas de estos sistemas pueden suscitar, genera el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos. La imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal», indicó.

El líder de la iglesia católica mencionó que existe el riesgo de que decisiones delicadas que repercuten en el trabajo, el acceso a servicios y la reputación de las personas sean encargadas a sistemas automatizados. Alertó que ello puede ser dañino, dado que existe riesgo de que se produzca una nueva forma de descarte, ya que la inteligencia artificial puede presentarse como neutral y objetiva mientras refleja y refuerza estereotipos o posiciones ideológicas de quienes los han diseñado o programado.

Ante ello, el papa afirmó que es indispensable que el uso de la inteligencia artificial esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad. Expuso que las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que deben poder contribuir al discernimiento y a la vigilancia.

Aunado a ello, solicitó que la propiedad de los datos no se confíe solo al sector privado, sino que se reglamente. Consideró que estos son fruto del aporte de muchas personas, de modo que no deben ser vendidos o confiados a pocos. Finalmente, León XIV señaló que la inteligencia artificial es un ambiente donde ya está inmersa la humanidad y una fuerza que debe enfrentarse. Ante ello, planteó que no bastará con regularla, sino que es necesario desarmarla y hacerla acogedora.