Investigadores de OpenAI advirtieron a la junta directiva sobre el avance de una IA potencialmente peligrosa antes de la destitución de Sam Altman

La reciente controversia en OpenAI, la compañía detrás de ChatGPT, involucra la destitución y posterior restitución de su CEO, Sam Altman. Esta situación se desencadenó por una carta enviada por investigadores de OpenAI a su junta directiva, advirtiendo sobre un importante avance en inteligencia artificial que, según ellos, podría representar una amenaza para la humanidad. Aunque la exactitud de esta carta ha sido cuestionada, su existencia se menciona como un factor entre varios que llevaron a la destitución de Altman.

El algoritmo en cuestión, conocido como Q* (pronunciado Q-Star), es considerado por algunos dentro de OpenAI como un posible gran avance hacia la inteligencia artificial general (AGI), un sistema de IA con habilidades de razonamiento a nivel humano. Aunque Q* actualmente solo realiza operaciones matemáticas a nivel de estudiantes de primaria, su capacidad para resolver estos problemas con precisión ha generado optimismo sobre su futuro éxito.

La controversia también destacó las diferencias entre Altman, quien ha sido la cara de la rápida comercialización de la IA generativa desde la llegada de ChatGPT, y algunos miembros de la junta directiva, quienes han expresado reservas sobre los riesgos de seguridad de la IA a medida que se vuelve más avanzada. La situación llevó a un conflicto interno en OpenAI y a una presión creciente de los inversores, incluido Microsoft, que ha invertido miles de millones de dólares en OpenAI y tiene derechos sobre su tecnología actual.

La destitución de Altman provocó una reacción de la mayoría de los 770 empleados de OpenAI, quienes amenazaron con renunciar a menos que él regresara. Microsoft, en respuesta, se ofreció a contratar a Altman y a otro cofundador, Greg Brockman, quien también había renunciado en protesta por la destitución de Altman. La situación llevó a la creación de una nueva junta directiva en OpenAI, encabezada por el ex co-CEO de Salesforce, Bret Taylor, junto con el ex Secretario del Tesoro de EE. UU., Larry Summers, y el CEO de Quora, Adam D’Angelo. Uno de los miembros de la junta que participó en la destitución de Altman, el cofundador y científico jefe de OpenAI, Ilya Sutskever, expresó su arrepentimiento y se unió al llamado para la renuncia de la junta.

La restitución de Altman como CEO ha sido bien recibida por Microsoft, que ve esto como un paso esencial hacia una gobernanza más estable, informada y efectiva en OpenAI. La estructura de la junta podría cambiar con sus nuevos miembros, aunque todavía no está claro si esto ocurrirá.

Con información de: Reuters, SiliconAngle y WRAL TechWire.

+ publicaciones

Artículo redactado con asistencia de diversas inteligencias artificiales generativas con supervisión humana (redacción AD).

Entradas relacionadas

Más
error: Contenido protegido