Se enfrentó a Sam Altman en la junta directiva de OpenAI y perdió. Quién es Helen Toner?
De la ingeniería química a la estrategia en inteligencia artifical: Cómo una experta en política de IA y altruismo efectivo destapó las tensiones entre innovación y seguridad
Sam Altman ha vuelto a OpenAI cinco días después de su despido, más reforzado que nunca. No solo recupera su puesto de CEO en la compañía más exitosa de las tecnológicas, sino que lo hace con una nueva junta directiva, sin Ilya Sutskever, Tasha McCauley ni Helen Toner. El único que continuará en la junta será Adam d’Angelo (CEO de Quora), que votó su despido pero luego — cuando vió el apoyo de inversores, la presión de Microsoft y la revuelta interna de trabajadores, además del revuelo mediático y en redes como X — cambió de bando, siguiendo los pasos de la CEO interina más efímera, Mira Murati, que sustituyó a Altman para pedir la reincorporación immediata de su jefe.
Si el culebrón en Silicon Valley entre viernes y martes ha servido para descubrir quién es Ilya Sutskever, la configuración de la nueva junta a medida de Altman y las informaciones que van apareciendo nos invitan a curiosear en el perfil de una de las personas más hostiles que el CEO ahora rehabilitado tenía en la junta directiva que lo despidió por sorpresa el pasado viernes. Me refiero a Helen Toner, la guardiana de la ética en la inteligencia artificial que se enfrentó a Sam Altman… y perdió. Con Altman también se reincorpora su aliado Greg Brockman, presidente de la compañía hasta el sábado. Ahora OpenAI se queda sin mujeres en su nueva junta.
Helen Toner es una destacada experta en el campo de la inteligencia artificial (IA), conocida por su enfoque en la seguridad y la gobernanza de esta tecnología emergente. Su reciente salida de la junta directiva de OpenAI, organización líder en IA, ha resaltado su influencia y las impliciones éticas y estratégicas de su trabajo.
Toner posee una licenciatura en Ingeniería Química y un diploma en Idiomas de la Universidad de Melbourne, además de un máster en Estudios de Seguridad de la Universidad de Georgetown. Esta formación multidisciplinar le ha proporcionado una base sólida tanto en aspectos técnicos como en análisis de políticas y seguridad.
Antes de unirse a OpenAI, trabajó como analista de investigación sénior en Open Philanthropy, enfocándose en política y estrategia de IA. En este rol, asesoró a responsables políticos y donantes sobre temas relacionados con la IA, lo que subraya su capacidad para influir en la toma de decisiones a alto nivel.
Su experiencia incluye un período en Beijing estudiando el ecosistema de IA de China como investigadora del Centro para la Gobernanza de la IA. Esta experiencia internacional le ha proporcionado una perspectiva valiosa sobre cómo diferentes culturas y entornos políticos abordan la IA.
Toner ha desempeñado un papel crucial como Directora de Estrategia y Subvenciones a la Investigación Fundacional en el Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown. Su trabajo aquí se ha centrado en la seguridad de la IA y las políticas relacionadas, lo que refleja la importancia de considerar los aspectos éticos y de riesgo en el desarrollo de la IA.
Involucración con el altruismo efectivo
Toner se introdujo en el movimiento del altruismo efectivo durante su tiempo en la Universidad de Melbourne. Este movimiento, que se ha vuelto influyente en círculos tecnológicos, aboga por un enfoque basado en evidencia para la filantropía y la toma de decisiones éticas. Su participación en este movimiento indica una tendencia a abordar los problemas globales, incluida la IA, desde una perspectiva pragmática y orientada a resultados.
Toner se unió a la junta de OpenAI en 2021, en un momento en que la empresa estaba en el centro de debates sobre la seguridad y la ética en IA. Su salida del consejo esta semana, en el contexto del despido y reinstauración de Sam Altman como CEO, sugiere que pudo haber tenido diferencias significativas con otros miembros del consejo sobre la dirección de OpenAI, especialmente en temas de seguridad y ética en IA.
Diferentes informaciones indican que Toner, junto con otros miembros del consejo, presionó para una investigación independiente sobre el liderazgo de Altman en OpenAI, lo que refleja su compromiso con la transparencia y la responsabilidad en la gobernanza de la IA. Y acabamos de saber que, justo antes del despido de Altman, investigadores de OpenAI avisaron de un avance que amenazaba a la humanidad.
Discrepancias sobre el desarrollo de la IA
Las discrepancias de Toner en OpenAI podrían haber girado en torno a cómo equilibrar la innovación y la comercialización con la seguridad y la ética en IA. Y su papel habría sido más contundente que el del propio Ilya Sutskever, que el mismo lunes se disculpó en X por su intervención en la junta contra Altman.
Dada su experiencia y su involucración en el altruismo efectivo, es probable que Toner abogara por un enfoque más cauteloso y considerado en el desarrollo de la IA, enfatizando la importancia de las salvaguardas y la gobernanza efectiva.
Helen Toner es una figura destacada en el campo de la IA, cuyo trabajo se ha centrado en la intersección de la tecnología, la ética y la política. Su participación en OpenAI y su reciente salida del consejo destacan las complejas tensiones entre la innovación tecnológica, la seguridad, la ética y la gobernanza en el ámbito de la inteligencia artificial. Su enfoque refleja una preocupación creciente por cómo la IA se está desarrollando y las implicaciones que esto tiene para la sociedad en su conjunto.
