Jacob Coxon, exinvestigador de seguridad en Anthropic y OpenAI, hizo recientemente una fuerte advertencia sobre la aceleración en el desarrollo de la inteligencia artificial (IA). Durante su aparición en el programa ‘This Week’ con George Stephanopoulos, Coxon, quien renunció la semana pasada a Anthropic por preocupaciones sobre la seguridad de la IA, aplaudió las declaraciones del CEO de Anthropic, Dario Amodei, quien pidió un freno en el desarrollo de esta tecnología innovadora.

Coxon expresó: ‘Esto es un gran paso hacia lo que he estado diciendo: que necesitamos algún tipo de pausa entre quienes están construyendo diferentes IAs’. La alerta de Amodei fue emitida en una carta titulada ‘Debemos regular la frontera’, donde enfatizaba la necesidad de un enfoque más cauteloso, afirmando: ‘Lo debemos a la humanidad’.

La decisión de Coxon de dimitir ha generado un considerable eco mediático, sobre todo por su contundente declaración en X, donde aseguró que ni Anthropic ni OpenAI estaban actuando de manera responsable y, en cambio, estaban ‘corriendo hacia una superinteligencia autooptimizada y arriesgando nuestras vidas’. Además, mencionó el temor dentro de la industria sobre la posibilidad de un posible control de la IA: ‘Las personas que construyen IA creen sinceramente que podría matarnos a todos para finales de la década’.

Coxon también comentó sobre la sorprendente respuesta que tuvo su publicación, indicando que no esperaba tal nivel de interés: ‘No estaba realmente esperando una gran respuesta. Fue sorprendente ver el nivel de compromiso’. Añadió que en su experiencia dentro de la industria, la conversación sobre los riesgos de la IA ha aumentado considerablemente en los últimos meses. ‘No hay suficiente tiempo para pensar constantemente en los riesgos, pero definitivamente he notado que en meses recientes, este tema surge con más frecuencia’, concluyó.