Un 'avance peligroso de la IA' provocó el despido de Sam Altman en OpenAI, según reporte

El caso de OpenAI y su aún CEO Sam Altman sigue dando que hablar. De acuerdo con un reporte de Reuters, el director ejecutivo de la empresa realizó un importante hito hacia la inteligencia artificial general (AGI), un descubrimiento que incluso “amenazaba a la humanidad”.

En este informe se menciona que Altman pudo desarrollar una IA que mostraba “conciencia” y no se lo contó a la junta de la empresa, lo que llevó a la destitución de su puesto al mando de OpenAI.

Un paso más

Dos fuentes afirmaron a Reuters que una serie de investigadores escribieron una carta a la junta directiva de OpenAI señalando que Altman había realizado un “poderoso descubrimiento” de la inteligencia artificial.

La investigación habla sobre Q* (Q-Stars), un modelo que podía resolver matemáticas al nivel de estudiantes de una escuela primaria, lo que provocó gran optimismo sobre lo que puede llegar a lograr en el futuro.

Para los desarrolladores en el campo, avanzar en el campo de las matemáticas es la línea a romper entre la inteligencia artificial generativa y la inteligencia artificial general, ya que la resolver sus problemas implica mayores capacidades de razonamiento que se asemejan ya a la inteligencia humana.

Según la definición de AGI, aquí los modelos pueden generalizar, aprender y comprender.

Por ello, los investigadores pidieron a OpenAI actuar ante “esta amenaza a la humanidad”, lo que terminó en el sorpresivo despido de Altman. Las fuentes señalaron que la CTO de la empresa, Mira Murati, confirmó al resto de empleados este avance.

Un debate ético

El descubrimiento solo ha puesto en debate los fines y objetivos que debe tener el desarrollo de la inteligencia artificial, con un bando marcado que defiende el progreso responsable, mientras otro prefiere acelerar el campo con un fin de lucro.

El despido de Altman, cofundador de OpenAI, marcó una cruzada que duró varios días. Tras su alejamiento, cientos de empleados de la empresa amenazaron con renunciar si es que su líder no era repuesto en su cargo. Microsoft anunció el ingreso de Altman a sus filas, mientras el resto de competidores anunciaba abiertamente que contratarían a las personas que deseen salir de esta ya importante empresa tecnológica.

Tras el fin de semana tumultuoso, Altman recuperó su puesto de director ejecutivo de OpenAI.

Los investigadores también han señalado el trabajo de un equipo de "científicos de IA", cuya existencia confirmaron múltiples fuentes. El grupo, formado combinando equipos anteriores de "Code Gen" y "Math Gen", estaba explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y eventualmente realizar trabajo científico, dijo una de las personas.