Meta vuelve a ponerse en el ojo del huracán con su última propuesta, revelada en una entrevista al Financial TImes: su intención de introducir usuarios generados por inteligencia artificial en sus plataformas sociales con el fin de mejorar el engagement, un movimiento profundamente preocupante desde un punto de vista ético y social. Si las redes sociales de Meta ya te resultaban cansinas y apartadas de su idea inicial de facilitar la relación entre sus usuarios, ahora, además, serán completamente falsas, fake, mentira, y te tratarán como su fueras completamente idiota proponiéndote que interactúes con usuarios sintéticos.
La preocupación de Meta por la caída significativa del engagement de sus usuarios no es en absoluto nueva: muchos de sus escándalos, desde Cambridge Analytica hasta muchos otros, están en realidad generados por su interés en mantener ese engagement lo más alto posible. Para la compañía, si algo eleva el engagement, aunque sea a costa de generar polarización, es válido, y está perfectamente dispuesta a situar cualquier consideración ética al final del todo en la cola de sus preocupaciones.
Meta ha demostrado una y otra vez que su modelo de negocio se basa en la explotación masiva de los datos personales de sus usuarios, y ahora, con la introducción de usuarios sintéticos generados por inteligencia artificial que tendrán, como dicen ellos, «biografías y fotos de perfil, y podrán generar y compartir contenido impulsado por inteligencia artificial en la plataforma», parece que la compañía está dispuesta a dar un paso más en su estrategia de control y manipulación. Como dice Connor Hayes, vice-presidente de producto para la inteligencia artificial generativa, «ahí es a donde vemos que va todo esto». Simplemente, la compañía se ha marcado como prioridad estratégica para los próximos dos años hacer que sus aplicaciones sean «más entretenidas y atractivas», y lo van a intentar utilizando todo tipo de medios.
La idea de crear usuarios sintéticos mediante inteligencia artificial como forma de tratar de hacer las redes sociales más interactivas y dinámicas me parece, sencillamente, aberrante y enfermiza. La integración de estos avatares digitales falsos en nuestras interacciones diarias no solo plantea serias preocupaciones sobre la autenticidad de nuestras relaciones en la red, sino que también abre la puerta a toda una serie de potenciales abusos. ¿Quién garantiza que estos usuarios creados mediante inteligencia artificial por cualquier marca no serán utilizados para tratar de influir en nuestras decisiones, desde lo que compramos hasta a quién votamos? Meta ya ha mostrado que carece completamente de ningún tipo de escrúpulos cuando se trata de vender influencia y manipular opiniones.
Además, la iniciativa parece ser una continuación de la obsesión de Meta por capturar cada vez más datos personales. ¿Qué tipo de información recolectarán estos usuarios sintéticos? ¿Cómo se utilizará esa información? La historia nos enseña que Meta ha usado datos de manera irresponsable en el pasado, vendiéndolos al mejor postor sin importar las consecuencias para la sociedad o la privacidad individual. La posibilidad de que estos usuarios creados mediante inteligencia artificial y al servicio de cualquiera puedan registrar nuestras interacciones, conversaciones y reacciones en tiempo real me parece aterradora, especialmente cuando se considera que la compañía no ha mejorado en absoluto ni su transparencia ni su respeto por la privacidad.
Desde un punto de vista de la experiencia de usuario, la introducción de estos personajes digitales podría distorsionar la realidad social. ¿Podremos distinguir lo real de lo artificial? ¿Hablamos, como en septiembre de 2023, de «inteligencias artificiales que tienen más personalidad, opiniones e intereses, y que es un poco más divertido interactuar con ellas»?
La línea entre una relación humana auténtica y una interacción con una entidad sintética programada se diluirá aún más, convirtiendo nuestras experiencias en algo cada vez más superficial y manipulable. Meta, conocida por su capacidad de generar adicciones con sus productos, juega ahora con las emociones y percepciones de sus usuarios de una manera aún más insidiosa. ¿Qué ocurrirá cuando algunos usuarios se encuentren rodeados de avatares falsos pero razonablemente creíbles que elogian, por ejemplo, todo lo que van diciendo? ¿Hasta qué punto se puede llegar a manipular a alguien mediante ese tipo de técnicas?
La reacción de la comunidad tecnológica y de los defensores de la privacidad ha sido, por supuesto, de alarma. Esta no es la primera vez que se cuestiona el modelo de negocio de Meta, basado en un capitalismo de vigilancia que, en lugar de ser reformado tras los escándalos, se profundiza con cada uno de sus nuevos «avances». La compañía necesita ser regulada mucho más estrictamente, y posiblemente, debería enfrentarse a sanciones que vayan más allá de las multas económicas: ¿hasta cuándo va a permitirse que una compañía con tan poca ética siga experimentando con las vidas digitales de sus usuarios sin un control más riguroso? ¿Cuántas veces va a pedir perdón por los problemas psicológicos y de todo tipo que genera?
Debemos preguntarnos si realmente queremos que nuestro espacio digital se infiltre aún más de lo que ya está con usuarios que no son reales, controlados por una compañía que ha demostrado repetidamente que no merece la confianza de nadie. La innovación es necesaria, pero no a costa de nuestra autonomía, privacidad y la autenticidad de nuestras interacciones sociales, de poner en manos de compañías de todo tipo y con estándares éticos dudosos herramientas para la manipulación y el espionaje. Y la respuesta nunca debería ser «no me preocupa, a mí no me van a manipular»… hablamos de una compañía que utiliza todo tipo de gente, desde menores a personas que, desgraciadamente y por las razones que sean, pueden ser muy fáciles de manipular.
El anuncio de Meta sobre la introducción de usuarios generados por inteligencia artificial es una señal más de que esta empresa necesita ser vigilada con lupa y que, en ausencia de una regulación efectiva y ética, seguirá empujando los límites de lo aceptable en nombre del crecimiento. Veremos si los reguladores tienen algo que decir frente a estas prácticas: una compañía que durante mucho tiempo insistió en una «política de nombres reales», ahora se va a dedicar a «inventarse» a usuarios sintéticos, a demostrar la conspiranoica «Dead Internet Theory«. La privacidad y la autenticidad de las relaciones sociales no deberían ser negociables, y menos aún en manos de quienes han demostrado no ser en absoluto dignos de custodiarlas.
Dejar una contestacion