OpenAI y Anthropic se reúnen con líderes religiosos para definir principios éticos en IA

Un diálogo histórico entre tecnología y fe

En un giro inesperado para Silicon Valley, empresas líderes en inteligencia artificial como OpenAI y Anthropic se han reunido con representantes religiosos en el primer "Pacto Fe-IA", un foro celebrado en Nueva York para abordar los desafíos éticos y morales de la IA. La iniciativa, organizada por la Alianza Interreligiosa para Comunidades Seguras —con sede en Ginebra—, busca establecer principios comunes que guíen el desarrollo tecnológico.

La tecnología necesita un marco moral urgente

Ante el avance acelerado de la IA y su impacto en la sociedad, las empresas tecnológicas reconocen la necesidad de incorporar valores éticos. Baroness Joanna Shields, exejecutiva de Google y Facebook y ahora figura clave en política británica, subrayó la importancia de este diálogo: «La regulación no puede avanzar al mismo ritmo que la tecnología, pero los líderes religiosos, con miles de millones de seguidores, poseen una experiencia única en guiar la seguridad moral de las personas».

Shields destacó que los desarrolladores de IA, conscientes del poder de sus creaciones, buscan «hacerlo bien». «Este intercambio directo es vital, ya que quienes construyen estas herramientas entienden su potencial y su responsabilidad», afirmó.

Principios globales, desafíos locales

El objetivo del Pacto Fe-IA es crear un conjunto de normas o principios éticos que reflejen la diversidad de creencias, desde cristianos y budistas hasta sijs y bahá'ís. Sin embargo, lograr un consenso no será sencillo, ya que las distintas tradiciones religiosas priorizan valores distintos.

Rabbi Diana Gerson, participante en el encuentro y vicepresidenta ejecutiva de la Junta de Rabinos de Nueva York, explicó: «Las comunidades religiosas ven prioridades diferentes, aunque compartan preocupaciones comunes».

Ejemplos de guías éticas previas

Algunas confesiones ya han emitido sus propias directrices sobre el uso de la IA. Por ejemplo, La Iglesia de Jesucristo de los Santos de los Últimos Días (mormones) reconoció en su manual que «la IA no puede reemplazar la inspiración divina, pero sí puede ser una herramienta útil para el aprendizaje y la enseñanza».

Por su parte, la Convención Bautista del Sur, la mayor denominación protestante de EE.UU., aprobó en 2023 una resolución instando a «proactivamente involucrarse y moldear estas tecnologías emergentes, en lugar de reaccionar después de que afecten a nuestras comunidades».

Un futuro con múltiples rondas de diálogo

Este encuentro en Nueva York es solo el primero de una serie de reuniones previstas en ciudades como Pekín, Nairobi y Abu Dabi. La alianza busca expandir este diálogo global para incluir perspectivas de distintas culturas y religiones, reconociendo que la ética en IA debe ser tan diversa como las sociedades que la adoptan.

«La tecnología no puede desarrollarse en el vacío moral», declaró Shields. «Necesitamos voces que representen a la humanidad en su totalidad, y eso incluye a las comunidades de fe».

¿Hacia un consenso global?

Aunque el camino hacia un marco ético unificado es complejo, el Pacto Fe-IA representa un paso significativo. La colaboración entre gigantes tecnológicos y líderes espirituales podría sentar las bases para una IA más alineada con los valores humanos, evitando riesgos como la desinformación, la radicalización o la pérdida de privacidad.

«Este es un momento crucial», concluyó Gerson. «Si logramos integrar la sabiduría de las tradiciones religiosas con la innovación tecnológica, podríamos estar ante el nacimiento de una nueva era de desarrollo responsable».