La reciente renuncia de Jacob Coxon, un joven científico de 27 años con experiencia en OpenAI y Anthropic, ha desatado un intenso debate sobre los riesgos de la superinteligencia artificial. En sus declaraciones en la red social X, Coxon alertó que tanto OpenAI como Anthropic no están actuando de manera responsable en la carrera para desarrollar sistemas de automejoramiento que podrían poner en riesgo la humanidad antes de que termine esta década.

Advertencias y preocupaciones

Coxon, quien trabajó tres años en ambas empresas, cuestionó que los altos mandos de estas organizaciones minimicen el alcance de los peligros asociados con esta tecnología. Según su perspectiva, la cultura en OpenAI está marcada por la ignorancia del personal sobre el problema, mientras que en Anthropic prevalece una resignación, ya que los competidores podrían avanzar sin las debidas precauciones si ellos deciden detenerse.

La gravedad de sus afirmaciones fue respaldada por Evan Hubinger, jefe de Ciencia de Alineamiento en Anthropic, quien reconoció abiertamente en la misma red las alarmas y situó en más del 10% la probabilidad de que ocurra una catástrofe global en los próximos diez años por el desarrollo descontrolado de la IA.

La falta de un plan claro en Anthropic

Hubinger también reveló que la compañía no cuenta con un plan definido para abordar el alineamiento de la superinteligencia, lo que aumentó las preocupaciones sobre la regulación de la inteligencia artificial en la industria. En respuesta a la controversia, Anthropic emitió un breve comunicado afirmando que el sector se beneficiaría de una regulación legal y verificable que controle el ritmo de desarrollo de modelos más potentes.

Desafíos económicos y políticos

Mientras tanto, un informe interno de la empresa proyectó que para el año 2030, la inteligencia artificial podría desplazar a uno de cada cinco empleados de oficina en Estados Unidos, lo que resultaría en un aumento del desempleo y una caída significativa de los salarios en este sector. Sin embargo, el estudio fue aclarado como una simulación, no un pronóstico exacto.

Este conflicto interno no solo afecta a las empresas involucradas, sino que también golpea el escenario político. Dario Amodei, director de Anthropic, ha sido criticado por su negativa a colaborar en proyectos militares, lo que causó la desaprobación de figuras políticas, como Donald Trump.

La necesidad de regulación

Por otro lado, Sam Altman, CEO de OpenAI, también ha expresado su preocupación acerca de la velocidad del desarrollo tecnológico, sugiriendo que es necesario ajustar el ritmo para permitir una adaptación social. En medio de esta crisis de confianza, distintos sectores argumentan que la inteligencia artificial, como entidad no biológica, no necesariamente busca dominar a la humanidad, lo que añade una capa de complejidad al debate actual.