Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, advirtió que el rápido avance de la inteligencia artificial podría representar un riesgo extremo para la humanidad. Tras renunciar a Anthropic, sostuvo que ambas compañías participan en una carrera por desarrollar sistemas cada vez más avanzados.
Coxon señaló que la tecnología podría evolucionar hacia una superinteligencia capaz de mejorar sus propias capacidades. Según explicó, estos sistemas podrían alcanzar habilidades sobrehumanas, desde vulnerar sistemas informáticos hasta transformar distintas áreas en cuestión de horas y obtener recursos y poder.
TE PUEDE INTERESAR: Nueva York revela miles de documentos sobre la contaminación del aire tras los atentados del 11S
El investigador cuestionó la manera en que las empresas enfrentan estos riesgos. Afirmó que dentro de OpenAI existe poca conciencia sobre las consecuencias, mientras que en Anthropic hay mayor preocupación, aunque la compañía continúa en una competencia por avanzar antes que otros laboratorios.
Coxon calificó esta dinámica como una “apuesta temeraria” y pidió analizar si la industria está preparada para desarrollar una superinteligencia sin comprender completamente sus posibles efectos. Evan Hubinger, líder de ciencia y alineación de Anthropic, coincidió con parte de sus advertencias y reconoció que existe preocupación real sobre la posibilidad de que una IA avanzada pueda poner en riesgo a la humanidad.