AI · · 4 min read

El arquitecto de seguridad de OpenAI deja la empresa y pide salvaguardas de IA más estrictas

La salida y las críticas públicas de David Robinson ponen de relieve las crecientes tensiones en torno a la seguridad, la regulación y el rápido desarrollo de sistemas avanzados de IA.

El investigador de seguridad de OpenAI David Robinson dimitió a principios de octubre de 2026, tras tres años y medio en la empresa, según una información de Crypto Briefing. Su salida estuvo acompañada de un ensayo en The Atlantic en el que sostenía que los principales laboratorios de inteligencia artificial no están reforzando sus salvaguardas con la suficiente rapidez para seguir el ritmo de los avances de la tecnología.

Robinson ayudó a diseñar el Marco de Preparación de OpenAI, un proceso interno para examinar si los modelos podían desarrollar capacidades que generasen riesgos graves. Por ello, su decisión de marcharse tiene más peso que un cambio ordinario de personal: estuvo estrechamente implicado en uno de los sistemas centrales de la empresa para evaluar el comportamiento peligroso de los modelos.

El ensayo presenta el problema como algo que va más allá de los controles técnicos. Robinson sostiene que la cultura de las grandes empresas de IA suele premiar el lanzamiento rápido de productos, incluso cuando siguen sin resolverse cuestiones sobre su fiabilidad y posibles daños. Contrasta ese enfoque con la seguridad aérea y nuclear, sectores en los que la ingeniería rigurosa y la cautela son esenciales porque los fallos pueden costar vidas.

Un debate sobre la seguridad dentro de OpenAI

La salida de Robinson se produce tras un periodo de cambios significativos entre los equipos de seguridad de OpenAI. En julio de 2026, la empresa reorganizó esos grupos bajo la dirección del área de investigación y los situó específicamente dentro de las competencias de la vicepresidenta Mia Glaese. Algunos empleados consideraron controvertido el cambio.

La estructura puede interpretarse de dos maneras distintas. Acercar a los especialistas en seguridad al área de investigación podría darles un mayor acceso a las personas que desarrollan nuevos sistemas. Pero situarlos bajo responsables de la investigación y del lanzamiento de modelos también podría dificultar que las preocupaciones de seguridad prevalecieran sobre el impulso comercial o técnico.

A la reorganización le siguieron varias salidas. Johannes Heidecke, que dirigía los sistemas de seguridad, dejó OpenAI, al igual que el futurista jefe Joshua Achiam. En octubre, la empresa despidió a tres investigadores de seguridad —Jasmine Wang, Tomek Korbak y Mikita Balesni— por acusaciones de que habían gestionado incorrectamente información sensible durante una investigación interna.

Esos acontecimientos forman parte de un patrón más prolongado. Las salidas relacionadas con la seguridad se han acumulado en OpenAI desde 2024, incluida la marcha del cofundador Ilya Sutskever. En ese contexto, las críticas de Robinson probablemente se interpretarán no solo como una advertencia externa, sino también como otra señal de las tensiones internas sobre cómo equilibra la empresa las salvaguardas y el desarrollo.

Por qué importa el marco

El Marco de Preparación de OpenAI es una de las principales explicaciones públicas de la empresa sobre cómo pretende identificar y gestionar los riesgos derivados de modelos cada vez más capaces. El papel de Robinson en su creación da una relevancia especial a sus críticas: está cuestionando al conjunto de la industria después de haber ayudado a construir uno de los mecanismos destinados a afrontar ese desafío.

Crypto Briefing informa de que OpenAI también se enfrenta a críticas por su gestión de los modelos avanzados y ha pausado el lanzamiento previsto de GPT-6.1 Astra. El artículo no establece que la dimisión de Robinson causara la pausa, pero ambos acontecimientos vuelven a centrar la atención en si los procesos de seguridad existentes de la empresa son suficientes para su próxima generación de sistemas.

El problema inmediato para OpenAI es la credibilidad. Un marco solo puede tranquilizar al público si se percibe que la empresa está dispuesta a seguirlo, a dar una autoridad significativa a los equipos de seguridad y a actuar ante las advertencias incluso cuando hacerlo retrase un lanzamiento. Los recientes cambios organizativos y las salidas de empleados han dificultado que la empresa responda a esa pregunta.

De las críticas internas a la regulación

Robinson no se limita a abandonar el debate. Según se informa, está trabajando con Spitfire Strategies, una empresa de relaciones públicas, en iniciativas para impulsar una regulación más estricta de la IA y generar presión externa sobre los laboratorios para que se tomen más en serio la seguridad.

Ese paso apunta a una preocupación más amplia de su argumento: las salvaguardas voluntarias podrían no ser suficientes si las empresas afrontan fuertes incentivos para adelantarse a sus competidoras. Si los responsables políticos concluyen que los principales laboratorios no pueden supervisarse de forma fiable por sí mismos, las normas y la supervisión externas podrían cobrar mayor importancia.

Los próximos acontecimientos ayudarán a determinar si la advertencia de Robinson gana fuerza. OpenAI podría responder públicamente a su ensayo en The Atlantic, aclarar cómo funcionan ahora sus equipos de seguridad o proporcionar una actualización sobre GPT-6.1 Astra. Nuevas salidas entre el personal de seguridad reforzarían la impresión de que persiste un conflicto sin resolver entre el rápido desarrollo de modelos y la gestión independiente de los riesgos.

artificial intelligenceopenaiai safetytechnology regulationmachine learningcorporate governance

Continue reading

Read this in another language