Jacob Coxon, investigador especializado en seguridad de inteligencia artificial, encendió las alarmas sobre el desarrollo de esta tecnología y aseguró que podría representar un riesgo para la humanidad. El exingeniero de OpenAI y Anthropic decidió renunciar a ambas compañías porque considera que no están desarrollando la IA de manera responsable.
Coxon trabajó durante tres años en las dos empresas y sostiene que los avances en inteligencia artificial podrían llevar hacia sistemas superhumanos capaces de mejorar sus propias capacidades. Según su advertencia, el mundo podría llegar a un punto de no retorno hacia el final de esta década si el desarrollo continúa al ritmo actual.
¿Por qué Jacob Coxon cree que la IA es peligrosa?
El investigador explicó su postura a través de un hilo publicado en X, donde cuestionó la forma en que OpenAI y Anthropic están avanzando en el desarrollo de esta tecnología. Una de sus principales críticas apunta a que ambas compañías estarían avanzando rápidamente hacia una superinteligencia capaz de automejorarse, mientras asumen riesgos que, según Coxon, pueden comprometer la vida de las personas.
El ingeniero también pidió no subestimar las capacidades que podrían alcanzar estos sistemas. En su opinión, las futuras inteligencias artificiales podrían convertirse en herramientas capaces de hackear cualquier cosa, revolucionar distintos campos de manera repentina y adquirir poder y recursos reales.
Para Coxon, el progreso de la IA no muestra señales de desaceleración. Durante su experiencia en OpenAI y Anthropic, observó cómo estos sistemas fueron desarrollando capacidades cada vez mayores hasta el punto de considerar posible la aparición de sistemas con habilidades superiores a las humanas.
Entre las consecuencias que plantea se encuentran la posibilidad de realizar ataques informáticos de gran alcance, obtener recursos y poder en el mundo real y producir avances importantes tanto en capacidades físicas como en razonamientos complejos.
El investigador incluso sostuvo que quienes construyen estos sistemas creen firmemente que la IA podría matar a las personas antes de que termine la década. Por eso considera que ninguna otra actividad humana implica un nivel de peligro comparable.
La renuncia de Coxon no sería un caso aislado. De acuerdo con su planteo, otros trabajadores de estas compañías también expresaron preocupaciones de carácter ético relacionadas con el desarrollo de estos sistemas de inteligencia artificial.