El pasado martes, un grupo de artistas que estaban participando en la beta cerrada de Sora, el algoritmo de generación de vídeo creado por OpenAI, publicó durante un cierto tiempo un proyecto en Hugging Face, el mayor repositorio de herramientas de inteligencia artificial en código abierto.
Acompañando al software, una carta que venía a decir algo así como:
Estimados señores supremos de la IA corporativa:
Recibimos acceso a Sora con la promesa de ser evaluadores tempranos, miembros del red team y socios creativos. Sin embargo, creemos que, en su lugar, nos están engañando para que hagamos un lavado de cara del algoritmo y nos dediquemos a decirle al mundo que Sora es una herramienta útil para los artistas.»
Claramente, un problema provocado por el hecho de que los trescientos beta testers se han sentido explotados y utilizados, funcionando como departamento de I+D de una compañía que no les ha hecho sentir como deberían sentirse, parte del proceso creativo para que la herramienta termine resultando algo que impacte de manera positiva y no negativa en su trabajo.
La fuga ha hecho que OpenAI interrumpa el acceso a su generador de vídeo y que, seguramente, se plantee seguir con su beta de otra manera, con otro grupo de artistas o en otras condiciones. El problema, claro está, es que en muchos sentidos, el daño está hecho: hablamos de trescientos artistas, que suponen una masa crítica suficiente como para generar una muy mala imagen en la comunidad, y que seguramente, si se cancela su acceso a la herramienta, no dirán demasiadas cosas bonitas acerca de ella y de la compañía.
Las betas cerradas juegan un papel importantísimo en los ciclos de desarrollo de producto, y es crucial tener un buen entendimiento con los que participan en ella. Habitualmente, se entiende que los participantes deberían ver el hecho de haber sido seleccionados para evaluar y probar la herramienta como algún tipo de privilegio, y que deberían estar lo suficientemente motivados por ello como para no solo firmar el acuerdo de confidencialidad, sino además, respetarlo convenientemente.
¿Qué lleva a los participantes en una beta cerrada a rebelarse y romper su acuerdo de confidencialidad? Obviamente, que no se han sentido bien tratados, o peor, que se han sentido utilizados. A partir de ahí, pura dinámica de grupos hasta que la cuestión se enciende lo suficiente como para tomar una decisión que, por otro lado, tiene relativamente poco riesgo: la compañía en ningún caso va a llevar a un artista a los tribunales por el hecho de haber roto un acuerdo de confidencialidad, y si lo hiciera, sería una forma de enfadar todavía más a esa comunidad.
Si unimos a esto el hecho de que muchos artistas se sienten amenazados por el desarrollo de este tipo de herramientas y que la compañía parece mostrarse tan insensible ante estas preocupaciones como lo fue anteriormente ante las de los artistas gráficos con Dall·E o ante la comunidad educativa con ChatGPT, por poner simplemente un par de ejemplos, el caldo de cultivo es perfecto para que ocurra lo que ha terminado ocurriendo.
Hablamos de aplicaciones que no tienen por qué ser en absoluto malas para las comunidades afectadas: por un lado, son tan inevitables como lo es siempre el fenómeno tecnológico, y por otro, son simplemente una llamada a redefinir actividades que, a partir de la existencia de esas herramientas, ya no aportan el valor añadido que aportaban anteriormente, por mucho que al principio muchos crean que por el hecho de provenir de una herramienta de ese tipo, las obras tienen menos valor. Con el paso del tiempo, su uso se normaliza, y la creatividad y el arte pasan a expresarse y a sublimarse de maneras diferentes, como ha ocurrido siempre en la historia de la humanidad.
Ahora bien, explicar eso no es sencillo, y menos si estás hablando con la misma comunidad creativa a la que aparentemente pretendes sustituir. ¿Responsabilidades? Todas, absolutamente todas en el lado de OpenAI. Si quieres pedir algo a alguien, hazle sentir seguro sobre el hecho de estar trabajando para ti. Si no, no se lo pidas.
Por lo demás, poca importancia: una fuga temporal, una interrupción también temporal del funcionamiento del algoritmo… y poco más que ver aquí.
Dejar una contestacion