El dinero y el poder, lo que guía el desarrollo de la Inteligencia Artificial: creador

Cristopher Olah, cofundador de Anthropic, una de las principales empresas de Inteligencia Artificial (IA) en el mundo

Cristopher Olah, cofundador de Anthropic, una de las principales empresas de Inteligencia Artificial (IA) en el mundo, confesó ante el Papa León XIV, que todos los laboratorios de inteligencia artificial de vanguardia —incluido Anthropic— operan dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto “con hacer lo correcto”. Es decir, hacer lo correcto, lo que beneficia a la humanidad, no está siempre como prioridad.

Lo anterior lo dijo durante la presentación de la Encíclica Papal “Magnifica Humanitas. Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”, a la que fue invitado, para hablar desde su postura como parte del grupo de empresarios dueños de las empresas de IA.

Los dilemas de estas empresas, unas 10 en el mundo, son “la presión por mantenerse comercialmente viables y permanecer en la vanguardia de la investigación; la presión geopolítica -que determina las relaciones de poder en el mundo-; y las presiones más antiguas y simples del orgullo y la ambición”, confeso el joven empresario.

“Por más sinceramente que cualquiera de nosotros intente hacer lo correcto —y creo que muchos lo hacemos— siempre estaremos influenciados por esos incentivos”.

Dijo que voces como las del Papa son necesarias porque tocan el deber hacia los pobres del mundo, y sobre estos, dijo “existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme. Si eso ocurre, apoyar a quienes resulten desplazados será un imperativo moral de proporciones históricas. Esta tarea ya será bastante difícil”.

“Pero me preocupa que gran parte del diálogo actual ignore un desafío aún mayor. El desarrollo de la inteligencia artificial está concentrado en un pequeño número de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente? No tenemos un mecanismo para ello. Es un problema sin resolver, y es precisamente el tipo de problema que históricamente la Iglesia se ha negado a permitir que el mundo ignore”.

Cristopher Olah habló sobre el florecimiento humano de cara a la IA, “si los modelos de inteligencia artificial van a estar ampliamente presentes, ¿cómo será una vida floreciente para las personas, las familias y el mundo? Hoy, los padres ya están preocupados por la mente de sus hijos; las personas, por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder”.

Como dirigente de un equipo de investigación que estudia la estructura interna de estos modelos, lo que realmente sucede dentro de ellos, señaló: seré honesto: seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo”.

Dijo que es necesario observar de cerca y ayudar a orientar a su sector hacia una mejor dirección. “Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar”.