BARI, Italia (AP) — El Papa Francisco desafió el viernes a los líderes de las democracias ricas del mundo a defender la dignidad humana sobre todo en el desarrollo y uso de la inteligencia artificial, advirtiendo que una tecnología tan poderosa corre el riesgo de convertir las propias relaciones humanas en meros algoritmos.

Francisco ha utilizado su autoridad moral para influir en el G7, al que Italia, anfitriona, ha invitado a participar en una sesión especial en su cumbre anual sobre los riesgos y promesas de la inteligencia artificial. Al hacerlo, se convirtió en el primer Papa en asistir a una cumbre del G7, ofreciendo una perspectiva moral sobre un tema que está cada vez más en la agenda de las cumbres internacionales, las políticas gubernamentales y las salas de juntas corporativas por igual.

Francisco dijo que los políticos deben tomar la iniciativa para garantizar que la IA siga centrada en el ser humano, de modo que las decisiones sobre cuándo usar armas o incluso herramientas menos letales siempre sean tomadas por humanos, no por máquinas.

«Condenaremos a la humanidad a un futuro sin esperanza si privamos a las personas de su capacidad de tomar decisiones sobre sí mismas y sus vidas, condenándolas a depender de las elecciones de las máquinas», afirmó. «Necesitamos garantizar y proteger un espacio para un control humano apropiado sobre las decisiones tomadas por los programas de IA: la dignidad humana misma depende de ello».

Francis se une a un grupo de países y organismos globales que presionan por barreras más estrictas para la IA a raíz del auge de la IA generativa iniciado por el chatbot ChatGPT de OpenAI.

El Papa argentino utilizó este año su mensaje anual de paz Piden un tratado internacional para garantizar la inteligencia artificial Desarrollado y utilizado éticamente. Sostiene que la tecnología que carece de los valores humanos de compasión, compasión, moralidad y tolerancia es demasiado arriesgada para desarrollarse sin control.

No repitió explícitamente este llamado en su discurso del viernes, pero dejó claro que la responsabilidad de liderar esta cuestión recae en los políticos. Les pidió que eventualmente prohibieran el uso de armas letales autónomas, conocidas coloquialmente como “robots asesinos”.

«Ninguna máquina debería elegir quitar una vida humana», dijo.

Dirigiéndose a los líderes reunidos en la mesa, concluyó: «Depende de todos hacer un buen uso (de la inteligencia artificial), pero la responsabilidad recae en la política para crear las condiciones que hagan posible y fructífero este buen uso».

La primera ministra italiana, Giorgia Meloni. Llamó a Francisco y anunció su participación, sabiendo el impacto potencial de su poder estelar y su autoridad moral en el G7. La gente sentada a la mesa parecía debidamente aterrorizada y el fuerte ruido en la sala se calmó por completo cuando llegó Francis.

«El Papa es un tipo de celebridad muy especial», dijo John Kirton, profesor de ciencias políticas de la Universidad de Toronto que dirige el grupo de investigación del G7.

La última cumbre que tuvo ese tipo de poder estelar, que luego se tradujo en acción, fue en una reunión de 2005 en Gleneagles, Escocia, recordó Kirton. Allí, los líderes mundiales decidieron cancelar 40 mil millones de dólares en deuda de 18 de los países más pobres del mundo con el Banco Mundial y el Fondo Monetario Internacional.

La cumbre estuvo precedida por un concierto Live 8 en Londres con Sting, The Who y Pink Floyd, que atrajo a más de un millón de personas en una muestra de solidaridad contra el hambre y la pobreza en África.

«Gleneagles ha tenido un gran éxito en su propio terreno y, para algunos, es una de las cumbres más exitosas», dijo Kirton.

Esta presión popular no se aplica a los líderes del G7 del mundo. Región de Apulia de ItaliaPero Francisco sabía que podía ejercer su autoridad moral para renovar sus demandas de salvaguardias para la inteligencia artificial y resaltar las amenazas a la paz y la sociedad si se deja de lado la ética humana.

«Hablar de tecnología es hablar de lo que significa ser humano y, por tanto, de nuestra posición única como seres que poseemos libertad y responsabilidad», dijo. «Eso significa hablar de ética».

La tecnología de IA generativa ha sorprendido al mundo con su capacidad para producir respuestas similares a las humanas, pero también ha generado preocupaciones sobre la seguridad de la IA y ha dado lugar a una serie de esfuerzos globales para frenarla.

Algunos se preocupan por los riesgos catastróficos pero remotos que supone para la humanidad su capacidad para crear nuevas armas biológicas y difundir desinformación. A otros les preocupa su impacto en la vida diaria, a través de sesgos algorítmicos que conducen a la discriminación o sistemas de inteligencia artificial que eliminan puestos de trabajo.

En su mensaje de paz, Francisco se hizo eco de estas preocupaciones y planteó otras. Dijo que Amnistía Internacional debe mantener sus preocupaciones clave sobre garantizar los derechos humanos básicos, promover la paz y proteger contra la desinformación, la discriminación y la distorsión.

En el frente regulatorio, Francisco de alguna manera predicará a los conversos, ya que los miembros del G7 han estado a la vanguardia del debate sobre la supervisión de la IA.

Japón, que asumió la presidencia rotatoria del G7 el año pasado, lanzó el proceso de IA de Hiroshima para establecer directrices internacionales y un código de conducta para los desarrolladores de IA. Además de estos esfuerzos, el mes pasado el Primer Ministro Fumio Kishida Revelando un marco para la regulación global IA generativa, que son sistemas que pueden producir rápidamente nuevos textos, imágenes, videos y audio en respuesta a indicaciones y comandos.

La Unión Europea fue una de las pioneras gracias a su amplio alcance La Ley de Inteligencia Artificial, que entrará en vigor en los próximos dos años Puede servir como modelo global. La ley se dirige a cualquier producto o servicio de IA ofrecido en los 27 países de la Unión Europea, con restricciones impuestas sobre el nivel de riesgos que plantean.

En Estados Unidos, el presidente Joe Biden emitió Orden ejecutiva sobre salvaguardias de inteligencia artificial Pidió legislación para fortalecerlo, mientras que algunos estados prefirieron que California Y Colorado Han intentado aprobar sus propios proyectos de ley sobre IA, con resultados mixtos.

funcionarios antimonopolio Ambos lados del Océano Atlántico Ha sido Auditar a las principales empresas de inteligencia artificial Incluyendo Microsoft, Amazon y Abierto AI Sobre si sus posiciones dominantes sofocan la competencia.

Gran Bretaña ha iniciado un diálogo global sobre cómo frenar la inteligencia artificial. Riesgos extremos con la cumbre del pasado otoño. en un Reunión de seguimiento En Seúl, las empresas se comprometieron a desarrollar la tecnología de forma segura. Está previsto que Francia sea sede de otra reunión de la serie a principios del próximo año. Las Naciones Unidas también contribuyeron a esto. Primera decisión Sobre la inteligencia artificial.

Al margen de su discurso ante Amnistía Internacional, Francisco dedicó un día completo a reuniones bilaterales. Mantuvo reuniones con el presidente ucraniano Volodymyr Zelensky, además de invitar a líderes de Argelia, Brasil, India, Kenia y Turquía. También se reunirá con miembros del G7, entre ellos Biden, el primer ministro canadiense Justin Trudeau y el presidente francés Emmanuel Macron.

___

Chan informó desde Londres.