La reciente renuncia de Jacob Coxon, un investigador británico de 27 años, ha generado un significativo revuelo en las redes sociales, tras expresar sus preocupaciones sobre la falta de responsabilidad en el desarrollo de inteligencia artificial por parte de las grandes empresas del sector. Coxon, quien trabajó durante tres años en Anthropic y previamente en OpenAI, anunció su decisión a través de una publicación en la plataforma X, donde criticó a ambas compañías por su enfoque en la creación de sistemas más avanzados sin garantizar la seguridad adecuada.
En su mensaje, Coxon subrayó que el progreso en el campo de la inteligencia artificial podría llevar a la creación de tecnologías que superen las capacidades humanas y que, además, sean capaces de automejorarse. Sus declaraciones han resonado fuertemente en la comunidad tecnológica, especialmente porque provienen de alguien con experiencia directa en el entrenamiento de los modelos más sofisticados de la actualidad, como Claude y GPT-4.
El investigador también hizo hincapié en que sus afirmaciones no son simplemente un intento de llamar la atención, sino que reflejan conversaciones serias que ha tenido con colegas sobre los riesgos que conlleva el desarrollo de sistemas de inteligencia artificial. Según Coxon, muchos en el sector son conscientes de que una IA descontrolada podría representar una amenaza existencial para la humanidad en el corto plazo, incluso antes de que termine esta década.
Coxon comparó las culturas de trabajo en OpenAI y Anthropic, sugiriendo que mientras algunos en OpenAI podrían no estar completamente conscientes de las implicaciones de la superinteligencia, en Anthropic hay un mejor entendimiento de los riesgos. Sin embargo, advirtió que, a pesar de ser conscientes de las posibles consecuencias, ambos laboratorios parecen atrapados en una carrera por liderar el desarrollo de estas tecnologías, lo que podría tener repercusiones peligrosas.
La situación cobró mayor atención cuando Evan Hubinger, un investigador de Anthropic, respaldó algunas de las preocupaciones planteadas por Coxon, indicando que existe una probabilidad considerable de que una inteligencia artificial pueda representar un peligro existencial en la próxima década. Hubinger, no obstante, matizó que el riesgo actual de los modelos existentes es bajo, pero su inquietud reside en el futuro desarrollo de superinteligencias que puedan mejorar sin control. En este contexto, Coxon ha sugerido que sería prudente establecer acuerdos entre laboratorios para desacelerar el desarrollo de capacidades hasta que se implementen mecanismos de seguridad adecuados.
