En un evento sin precedentes en la historia de la relación entre la Iglesia Católica y la tecnología, Chris Olah, cofundador de Anthropic y uno de los investigadores de seguridad de IA más respetados del mundo, participó esta semana en la presentación de una encíclica papal sobre los desafíos éticos de la inteligencia artificial. Su mensaje fue contundente: el desarrollo de la IA no puede dejarse exclusivamente en manos de las empresas tecnológicas.
El mensaje de Olah
Chris Olah afirmó ante los presentes que existe ‘una posibilidad real’ de que la IA desplace el trabajo humano ‘a gran escala’ en los próximos años, y que este riesgo —junto con otros relacionados con la seguridad de los sistemas de IA avanzados— requiere una supervisión que vaya más allá de los mecanismos de autorregulación del sector privado. Instó a líderes religiosos, gobiernos y representantes de la sociedad civil a involucrarse activamente en la gobernanza de la IA.
- Olah: ‘hay una posibilidad real de desplazamiento laboral masivo por IA’
- Llamado a involucrar a líderes religiosos, gobiernos y sociedad civil en la gobernanza
- La Iglesia Católica publica su primer documento oficial sobre los riesgos de la IA
- Anthropic lidera la investigación de interpretabilidad: entender qué ‘piensa’ realmente la IA
- El cofundador de Anthropic es pionero en mapear los circuitos internos de los modelos
La encíclica papal
El documento vaticano, presentado con la participación de Olah, aborda los desafíos éticos de la IA desde una perspectiva centrada en la dignidad humana y el bien común. Entre sus preocupaciones centrales: el riesgo de concentración del poder en pocas empresas tecnológicas, el impacto en el empleo y en la cohesión social, y la necesidad de que los sistemas de IA sean diseñados para servir a los más vulnerables, no solo a quienes pueden permitirse acceder a ellos.
La IA es demasiado importante para que la decidan solo las empresas que la construyen. Necesitamos voces de todas las tradiciones humanas para entender qué queremos que haga y qué no.
Anthropic y la investigación de seguridad
La participación de Olah en este evento no es casual: Anthropic es la única gran empresa de IA que tiene la investigación de seguridad e interpretabilidad en el centro de su misión fundacional. Mientras otras compañías hablan de seguridad como una capa adicional, Anthropic diseña sus modelos preguntándose desde el principio qué está ocurriendo realmente dentro de la red neuronal. La encíclica papal y la participación de Olah reflejan que ese mensaje está llegando más allá del mundo tech.
