Un investigador abandona la industria de la IA y alerta: «Quienes la desarrollan creen que podría matarnos a todos»
El investigador británico Jacob Coxon ha decidido abandonar la industria de la inteligencia artificial tras haber trabajado en OpenAI y Anthropic, dos de los principales laboratorios estadounidenses del sector. El especialista sostiene que ambas compañías avanzan hacia sistemas cada vez más potentes sin que existan garantías suficientes para controlar los riesgos asociados a una eventual superinteligencia.
Coxon acusa a OpenAI y Anthropic de «jugar con nuestras vidas»
Coxon, de 27 años, ha trabajado durante los últimos tres años en el área de preentrenamiento de modelos de inteligencia artificial. Esta fase consiste en exponer los sistemas a grandes cantidades de información para que desarrollen las capacidades que posteriormente utilizan en sus aplicaciones.
El investigador comenzó su trayectoria en OpenAI y este año se incorporó a Anthropic, compañía que consideraba más prudente en materia de seguridad. Sin embargo, finalmente ha decidido abandonar también esta empresa y alejarse de la industria.
«Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas», escribió Coxon en X.
El investigador fue todavía más contundente al explicar las preocupaciones que, según él, existen dentro del propio sector.
«Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo», agregó.
Su salida se produce mientras Anthropic prepara su salida a bolsa. Contactadas por AFP, ni OpenAI ni Anthropic respondieron inmediatamente a las declaraciones.
Responsables de seguridad reconocen riesgos graves asociados a la IA
Las advertencias de Coxon encontraron respaldo dentro de Anthropic. Evan Hubinger, responsable de seguridad de la compañía, respondió públicamente en X y reconoció que este tipo de escenarios forma parte de las preocupaciones reales de los investigadores.
«Creemos realmente que la IA podría matar a humanos», afirmó Hubinger.
A título personal, situó en «más de un 10%» la posibilidad de que ese riesgo llegue a materializarse durante la próxima década.
La preocupación por la «automejora recursiva»
Uno de los escenarios que genera mayor inquietud entre determinados especialistas es el de la denominada «automejora recursiva». El concepto describe una situación hipotética en la que un sistema de inteligencia artificial suficientemente avanzado pudiera participar en el diseño de modelos sucesores cada vez más capaces.
El temor es que este proceso pueda avanzar hasta un punto en el que resulte extremadamente difícil mantener los sistemas bajo supervisión humana.
Según Coxon, ninguna empresa debería intentar desarrollar de manera unilateral una inteligencia artificial que supere ampliamente las capacidades humanas sin una intervención gubernamental efectiva o algún tipo de desaceleración coordinada entre los principales actores de la industria.
«En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (…) a pesar del riesgo», afirmó Coxon.
Crece el debate sobre los límites al desarrollo de modelos avanzados
La seguridad de la inteligencia artificial se ha convertido en uno de los principales asuntos de debate a medida que las grandes compañías tecnológicas destinan más recursos al desarrollo de modelos avanzados.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos en caso de no conseguir controlar adecuadamente determinados riesgos.
A finales de julio, más de un millar de trabajadores de la industria, entre ellos el consejero delegado de Anthropic, Dario Amodei, pidieron a Washington que preparase un mecanismo que permitiera frenar el desarrollo tecnológico si las circunstancias lo exigieran.
Las llamadas a reforzar las precauciones también han llegado desde OpenAI. El jefe científico de la compañía, Jakub Pachocki, señaló recientemente que «el momento actual llama por extrema precaución» y defendió una mayor coordinación internacional.
La regulación de la inteligencia artificial gana importancia
Las declaraciones de Coxon reflejan la creciente tensión entre la velocidad de la innovación y la necesidad de establecer mecanismos capaces de reducir los posibles riesgos de sistemas cada vez más autónomos.
Para Europa, donde la regulación de la inteligencia artificial ya ocupa un lugar destacado en la agenda institucional, las advertencias procedentes de investigadores de los principales laboratorios estadounidenses añaden una nueva dimensión al debate sobre supervisión, responsabilidad empresarial y cooperación internacional.
El desarrollo de modelos más avanzados continuará poniendo a prueba el equilibrio entre innovación y seguridad. Las advertencias surgidas desde dentro de la propia industria refuerzan las peticiones para establecer controles capaces de evolucionar al mismo ritmo que una tecnología cuyas capacidades siguen aumentando rápidamente.
Fernando Alcázar es colaborador de Infocancha.com y se dedica a cubrir temas de actualidad relacionados con noticias, política, negocios, tecnología, deportes, entretenimiento y estilo de vida. Su enfoque se centra en ofrecer información clara, equilibrada y útil para los lectores, destacando los acontecimientos más relevantes del momento. A través de una cobertura precisa y accesible, busca acercar los hechos y las historias que impactan la vida cotidiana y el interés de la audiencia.
/cloudfront-us-east-2.images.arcpublishing.com/reuters/2KCZG75FZRPRBPX2ESXYLTAJHQ.jpg "Las acciones se contraen porque los inversores ven pocas esperanzas en las conversaciones entre Rusia y Ucrania")
