Ilya Sutskever, el guardián prudente de la IA pero imprudente con Sam Altman en OpenAI

Este científico visionario acaba de superar a su mentor Geoffrey Hinton como el icono de la seguridad, la desaceleración y los desafíos éticos de la IA para el futuro de la humanidad

Ilya Sutskever, una figura prominente en OpenAI, ha estado en el centro del cambio significativo que la compañía está viviendo durante las últimas horas. Como científico jefe y miembro de la junta directiva, Sutskever aprobó la destitución de Sam Altman, lo que refleja una división fundamental sobre la seguridad y el desarrollo de la Inteligencia Artificial Generativa, y la preocupación de que el software de IA hiperinteligente pudiera volverse incontrolable​​. Esta preocupación se intensificó con el anuncio de nuevos productos de OpenAI, incluyendo una versión de su ChatGPT-4, lo que llevó a Sutskever a cuestionar si se estaba empujando demasiado rápido, comprometiendo potencialmente la seguridad.

Sutskever, conocido por su enfoque cauteloso, ha expresado su preocupación por no tener una solución para dirigir o controlar una IA superinteligente (ASI) y prevenir que se vuelva rebelde, una inquietud que comparte con otros seguidores del movimiento de altruismo efectivo​​​​. Su enfoque refleja una visión más prudente sobre el desarrollo de la IA, en contraste con la visión aceleracionista de Altman​. Este documental de Tonje Hessen en The Guardian ayuda a entender las preocupaciones de Sutskever y a hacerse una composición de cómo es Ilya.

El mundo de la inteligencia artificial es un laberinto de innovaciones y dilemas éticos. En el centro de este laberinto — y en el punto de mira desde el viernes — se encuentra Ilya Sutskever, cofundador y jefe científico de OpenAI. Nacido en Rusia y criado entre Israel y Canadá, su formación académica le llevó a las aulas de la Universidad de Toronto, donde bajo la tutela de Geoffrey Hinton, se forjó como una mente brillante en el campo del aprendizaje profundo. Este trasfondo académico es clave para entender su prudencia ante la IA General (AGI) y su potencial amenaza a la humanidad​.

Su paso por Google, donde co-inventó AlexNet y trabajó en proyectos como Google Brain y TensorFlow, forjó su reputación como un líder en IA. En 2015, Sutskever llevó su visión a OpenAI, una organización dedicada a desarrollar una IA que beneficie a toda la humanidad​​.

A pesar de haber sido una figura central en el episodio que ha sacudido los cimientos de OpenAI con la destitución de Sam Altman como CEO y con un 90% de la plantilla pidiendo su retorno y la dimisión de la actual junta directiva, Sutskever lo lamentó profundamente en la red social X este mismo lunes. Estos movimientos reflejan la tensión entre la visión aceleracionista de Altman y una junta directiva, con Ilya al frente, inclinada hacia un enfoque más cauteloso​.

A pesar de sus esfuerzos por reincorporar a Altman, la empresa se vio obligada a nombrar a Emmett Shear como CEO interino — horas después de la renuncia de la efímera Mira Murati — , marcando un período de incertidumbre y reajuste en OpenAI​​.

La preocupación de Sutskever por los riesgos de la IA no es algo nuevo. En lugar de impulsar ciegamente la próxima gran innovación en IA, su enfoque actual es evitar que una superinteligencia artificial se rebele​. Sus reflexiones sobre el futuro de la IA, desde la posibilidad de una consciencia en ChatGPT hasta la fusión de humanos y máquinas, revelan una mente que no solo innova sino que también pondera profundamente las implicaciones éticas de su trabajo​​​​​.

En un mundo donde la tecnología avanza a pasos agigantados, figuras como Sutskever son esenciales. Otro tema es si ha sido afortunada su actuación el pasado viernes en la junta directiva de OpenAI, que también ha perdido a su presidente Greg Brockman, que se acaba de enrolar en Microsoft junto a Altman y otros investigadores. El equilibrio de Ilya Sutskever entre innovación y precaución, y su incansable búsqueda de una IA segura y benéfica, lo posicionan ahora como el máximo guardián de la ética en el campo de la inteligencia artificial. En este sentdio, Ilya Sutskever acaba de superar a su mentor Geoffrey Hinton como el icono de la prudencia y la desaceleración. Sutskever no solo es un científico visionario, sino también un líder consciente de los desafíos éticos que la IA presenta para el futuro de la humanidad.