OpenAI crea un comité de seguridad para aplacar los reproches de Helen Toner a Sam Altman
Los altruistas efectivos derrocados hace medio año vuelven a la carga, Jan Leike se incorpora a Anthropic para “continuar la misión de superalineación” y Yann LeCun (Meta) se enzarza con Elon Musk.
Veníamos de 10 días eléctricos con lanzamientos de OpenAI, Google y Microsoft, y esta semana estamos viviendo la resaca de las novedades poniendo el acento en los errores. Los medios y las redes somos así. En lugar de destacar lo bueno que nos traen estas tres compañías — y de lo que anunciará Apple este junio — , nos hemos dedicado a forzar respuestas incorrectas y generar polémicas de lanzamientos precipitados o ajustes técnicos pendientes. También es cierto que algunos de los líderes de la IA lo ponen a huevo. Solo hay que ver cómo se tiran de los pelos Elon Musk (xAI) y Yann LeCun (Meta) en la red social propiedad del primero. X (Twitter) sigue siendo la mejor plataforma para vivir en vivo y en directo la revolución de la IA a nivel global, con sus miserias (egos) y sus momentos de gloria (avances). Recall de Microsoft, Sky de OpenAI y Overview AI de Google son los tres puntos débiles de la última ola de aplicaciones en la popularización de la IA. Pero que Microsoft tuviera que explicarse para garantizar la privacidad de la opción Recall, que OpenAI pausara la voz Sky que emulaba la de la película ‘Her’ para evitar una hipotética demanda de dudoso recorrido de Scarlett Johansson y que Google se metiera en un lío por alimentar su IA con lo peor de Internet (la falsa ‘participación ciudadana’ de Reddit) para enriquecer las búsquedas de Overviews, estos tres deslices juntos, son ‘peccata minuta’ si lo ponemos en el contexto histórico de todo lo presentado los últimos días.
Cuando la IA ofrece respuestas políticamente correctas pero poco verosímiles nos escandalizamos (los nazis negros de Gemini, por ejemplo). Cuando en lugar de combatir el sesgo, las grandes tecnológicas añaden contenido ‘ciudadano’ como el de Reddit para ‘humanizar’ la IA, los resultados también son escandalosos (añadir pegamento a la pizza cuando el queso no es suficientemente enganchoso, en Overview). Si queremos evitar una IA ‘woke’ editorializante nos topamos con las barbaridades que los usuarios han ido lanzando en Internet durante años. Es decir, si queremos una IA que se parezca más al mundo real que al mundo ideal nos decepcionamos viendo que destacan las chorradas difundidas en redes sociales e Internet durante las últimas tres décadas. Es un círculo vicioso. Y precisamente en este punto me parece relevante que los medios de comunicación aprovechen la necesidad que las tecnológicas tienen de obtener permiso para entrenar sus IAs con contenido de calidad y opten por alianzas para que sus noticias aparezcan en las consultas que los usuarios harán en los diferentes modelos de IA.
Si queremos evitar una IA ‘woke’ editorializante nos topamos con las barbaridades que los usuarios han lanzado en Internet las tres últimas décadas. Si queremos una IA que se parezca más al mundo real que al ideal nos decepcionamos viendo las chorradas en redes e Internet.
Tras las polémicas de la voz de GPT-4o y de la salida de los científicos Ilya Sutskever y Jan Leike, OpenAI ha pueso esta semana el foco en el ámbito de la seguridad y de la alianza con los medios de comunicación. Y cuando OpenAI se pone, es una prensa hidráulica. La compañía del famoso ChatGPT está colaborando con WAN-IFRA, la Asociación Mundial de Editores de Noticias, para ayudar a más de 100 editores de noticias a explorar e integrar la IA en sus redacciones. También acaba de anunciar un acuerdo con The Atlantic y otro con el grupo Vox Media, que se añaden al más reciente con los medios de News Corp (The Wall Street Journal). La balanza cada vez más se inclina a favor de los medios que pactan con OpenAI frente a los que le presentan demandas (encabezados por The New York Times). Tomemos nota.
La compañía que dirige Sam Altman también acaba anunciar la creación de un Comité de Seguridad dirigido por los miembros de su junta Bret Taylor (el nuevo presidente), Adam D’Angelo (el superviviente discreto), Nicole Seligman (abogada y exvicepresidenta ejecutiva de Sony) y el propio Sam Altman (CEO). También participarán en el comité los directivos de OpenAI Aleksander Madry (Jefe de Preparación), Lilian Weng (Jefa de Sistemas de Seguridad), John Schulman (Jefe de Ciencia de Alineación), Matt Knight (Jefe de Seguridad) y Jakub Pachocki (Científico Jefe, el sustituto de Ilya Sutskever). ¿Qué mejor manera de aplacar las críticas de falta de seguridad ante la futura Inteligencia Artificial General (AGI) o los rumores sobre el enigmático proyecto Q* que creando un comité con cuatro miembros de la nueva junta directiva de OpenAI?
Pero seis meses después de la crisis del pseudodespido de Sam Altman reaparece la instigadora más crítica de aquél tsunami y la principal representante del altruismo efectivo en la anterior junta directiva de OpenAI. Sí, queridos lectores, estamos hablando de nuestra conocida Helen Toner, que esta semana ha vuelto al ruedo para atacar a Altman por su falta de transparencia con la anterior junta directiva. Toner afirma que la junta se enteró del lanzamiento de ChatGPT por Twitter y acusa al CEO de la compañía de esconderles información, entre otros reproches. Hace medio año nadie sabía que en OpenAI convivían en la cúpula los altruistas efectivos con los aceleracionistas y que esas tensiones en la falsa dicotomía ‘innovación vs seguridad’ era la muerte anunciada de la organización sin ánimo de lucro y el parto de la empresa pura y dura que hoy gobierna Sam Altman con mano de hierro y Apple muy cerca.
En medio año OpenAI ha entrado a formar parte del imaginario colectivo con el espectacular crecimiento de GPT, los lanzamientos de Sora y GPT-4o — y sus beneficios para los usuarios gratuitos — , con la explosión de la multimodalidad que lidera la compañía, el anuncio de GPT-5 para el cuarto trimestre de este año (quizá noviembre) y con la entrada de Altman en el ‘starsystem’ mediático global. Pero, al mismo tiempo, medio año después lo que diga Helen Toner tiene mucha más repercusión que cuando ocupaba su puesto en la junta directiva. De la misma manera que el medio año de ‘desaparición’ de Ilya Sutskever comporta hoy un mayor interés periodístico por saber dónde acabará el excientífico jefe de OpenAI. O que ahora interesa más saber que Jan Leike se incorpora a Anthropic para “continuar la misión de superalineación”, siendo un fichaje que refuerza la imagen de ‘seguridad’ de la compañía de Amazon ante la apuesta más puramente ‘comercial’ de OpenAI.
Elon Musk recibe 6.000 millones para que una ‘gigafábrica de computación’ relance su IA Grok
Además de enzarzarse en X con el científico jefe de inteligencia artificial de Meta, Elon Musk trabaja duro para lograr una ‘gigafábrica de computación’, que dispondrá de 100.000 semiconductores para entrenar y ejecutar la próxima versión de su IA conversacional Grok. Elon Musk y xAI quieren ganar la guerra de la IA: acaba de recibir 6.000 millones de dólares para lograrlo. En la órbita de Musk, Tesla pesa pero la IA va ganando peso: La galaxia de empresas de Musk está amenazada a medida que Tesla cae en espiral. Estas personas mantienen el sistema en funcionamiento. Y mientras tanto, Donald Trump ha hablado con Elon Musk de darle un cargo si vuelve a la Casa Blanca.
A pesar de que la UE ha sido pionera en regular la Inteligencia Artificial, lleva años de retraso en inversión. Los auditores de la UE alertan de que Europa va a la zaga en la competición de la Inteligencia Artificial. La inversión privada de EEUU multiplica por siete la de la UE. En año electoral a nivel global, Rusia está inundando Europa con desinformación y las elecciones estadounidenses son las siguientes. El peligro de la IA sobrehumana no es lo que piensas. Más temas de la semana: NVIDIA prepara un chip ARM para los PC con inteligencia artificial. Google sigue la estela de Windows y Copilot+: los Chromebook Plus ahora integran Gemini y nuevas funciones de IA. El frente de batalla más sangriento de la inteligencia artificial: los generadores de videos.
Muchas gracias a Bruno Capuano por recomendar Algoritmo Transparente en el episodio #296 de su podcast No Tiene Nombre. Es todo un honor. ¡Hasta la semana que viene!
[Este artículo también está traducido al catalán en Algoritme Transparent.]
Algoritmo Transparente #35
