Un grupo autodenominado STOP AI está manifestándose en los Estados Unidos en distintos eventos pidiendo la prohibición de una tecnología que aún no existe, la inteligencia artificial general o AGI.
Los organizadores, que se definen como defensores de la resistencia civil no violenta, argumentan que la creación de sistemas capaces de superar la inteligencia humana en múltiples ámbitos representa lo que consideran una amenaza existencial para la humanidad, y reclaman una intervención gubernamental a nivel internacional que impida no sólo el desarrollo, sino también la posesión y el entrenamiento de estas tecnologías. Para definir la inteligencia artificial general utilizan la misma definición de OpenAI, «sistemas altamente autónomos capaces de superar a los humanos en la mayoría del trabajo económicamente valioso».
Entre sus argumentos, se cita la posibilidad – utilizando el argumento de autoridad de expertos como Geoffrey Hinton – de que la IA alcance en un par de décadas un nivel de superinteligencia incontrolable, la llamada «hipótesis Terminator«, lo que podría supuestamente derivar en una serie de consecuencias catastróficas, equiparables a la extinción accidental de especies. Además, mencionan específicamente en sus protestas la muerte del ex empleado de OpenAI, Suchir Balaji, cuyo fallecimiento tras revelar algunas irregularidades dentro de la organización ha avivado aún más la preocupación sobre el impacto de estas tecnologías.
Los activistas de STOP AI expresan varias inquietudes sobre el desarrollo de la AGI, tales como la pérdida de control (el argumento de Geoffrey Hinton, quien estima una probabilidad del 50% de que la inteligencia artificial supere la inteligencia humana en las próximas dos décadas), el riesgo existencial que supone que una superinteligencia artificial pueda, inadvertidamente, tomar decisiones que lleven a la extinción de la humanidad, o la pérdida de propósito en la vida humana que podría conllevar el que, incluso si la AGI no fuese directamente peligrosa, pasásemos a vivir en una sociedad en la que las máquinas realicen todo el trabajo. Además, previenen contra la falta de transparencia con la que estos sistemas se están construyendo, que impide que puedan ser auditados y comprendidos adecuadamente.
STOP AI busca movilizar al 3.5% de la población norteamericana en protestas pacíficas contra la inteligencia artificial, mediante manifestaciones, desobediencia civil y esfuerzos para lograr un tratado internacional que prohíba el desarrollo de la AGI. Y si bien las preocupaciones planteadas por STOP AI podrían merecer algún tipo de consideración, me parece importante abordar el tema con una perspectiva equilibrada, que debe partir de que el desarrollo tecnológico es un fenómeno inevitable y completamente inherente a la especie humana.
En primer lugar, por la incertidumbre tecnológica que se genera: la AGI aún no existe, y existen debates muy justificados sobre cuándo y si se podrá alcanzar. ¿Qué deberíamos hacer? ¿Prohibir toda investigación en inteligencia artificial «por si acaso» surge? En segundo, es importante pensar en los posibles beneficios potenciales: La inteligencia artificial ya está contribuyendo significativamente en campos como la medicina, la investigación científica y la sostenibilidad.
Prohibir es una herramienta muy radical, y en muchos casos, completamente inútil. En el caso del desarrollo tecnológico, que no es una actividad fácilmente trazable, más aún. En su lugar, muchos abogan por el desarrollo de una regulación robusta, que podría permitir aprovechar los posibles beneficios mientras se mitigan los riesgos, unida a un control de las organizaciones que llevan a cabo ese tipo de actividad. Y por supuesto, todo ello partiendo de un escenario de colaboración internacional, hoy completamente inviable, para el desarrollo de directivas éticas y de seguridad.
Cada vez que surge la posibilidad de grandes cambios derivados del desarrollo tecnológico, la incertidumbre es inevitable. Pero abogar por prohibiciones imposibles no va, en ningún caso, a solucionar el problema, y termina siendo más una mezcla de temores irracionales, conspiranoias y radicalidad. Por otro lado, que algunas de las compañías y personajes que trabajan en ese tipo de desarrollos hayan probado ya en numerosas ocasiones su elevadísimo grado de irresponsabilidad en todos los sentidos y hayan priorizado sistemáticamente sus beneficios a cualquier posible daño sobre la sociedad es algo que, obviamente, no tranquiliza a nadie.
El debate sobre los riesgos y beneficios de la inteligencia artificial general es complejo y multifacético. Pero como mínimo, debería plantear alternativas razonables, compatibles con la naturaleza de la especie humana (detener toda investigación no es una alternativa), y planteables dentro de un escenario sociopolítico como el actual, en el que una prohibición en un bloque no sería más que un incentivo para el resto.
Vayamos pensando cómo vamos a poner todas esas preocupaciones en su sitio.
Dejar una contestacion