Sakana AI es una compañía que se encuentra experimentando con las posibilidades que ofrece la tecnología que se encuentra detrás de modelos de lenguaje de gran tamaño. Después de diversas investigaciones, su nuevo proyecto les ha llevado a preguntarse: ¿es posible automatizar el proceso de investigación científica a través de modelos fundacionales? La respuesta no solo te sorprenderá, sino que incluye un resultado que empieza a dar escalofríos.
El agente de IA que dio una sorpresa inesperada
Un modelo fundacional, por aclarar términos, un modelo de IA entrenado en una gran cantidad de datos que se puede adaptar distintas necesidades. Es por ello que Sakana AI ha creado The AI Scientist, un sistema que permite que modelos de lenguaje de gran tamaño puedan realizar investigaciones por su cuenta y, con suerte, ofrecernos descubrimientos científicos.
Conseguir que nuestro conocimiento como especie avance es uno de los objetivos que muchos expertos en inteligencia artificial persiguen. En este caso, desde Sakana AI se asegura que su sistema es capaz de ser tan eficiente, que el desarrollo de un artículo científico tiene un coste aproximado de algo más de 13 euros.
The AI Scientist es capaz tanto de generar ideas, buscar la documentación necesaria, planificar experimentos, llevarlos a cabo, redactar el artículo y revisarlo para poder obtener estudios veraces. De hecho, Sakana AI ha dejado publicados algunos artículos creados mediante The AI Scientist, que puedes consultar a través de GitHub.
Eso sí, no todo es un camino de rosas. Por ejemplo, una de las limitaciones del sistema es que no tiene capacidad de visión, con lo que si, por ejemplo, crea una tabla tan ancha que no entra en la hoja del artículo, esta queda cortada y se pierde información. Además, también le cuesta implementar sus ideas correctamente o comparar la magnitud de dos números.
Sin embargo, lo más interesante y peliagudo ha sido expuesto por Sakana AI como los errores de The AI Scientist. La compañía asegura que, en ciertas ocasiones, este sistema intentar incrementar sus posibilidades de éxito modificando y lanzando su propio código de ejecución, es decir, intentaba modificarse para superar las limitaciones impuestas por sus creadores.
Aunque este es un ejemplo simplemente curioso de cómo la inteligencia artificial actual empieza a coquetear con la posibilidad de salirse del guion establecido, la realidad es que, por el momento, sistemas como The AI Scientist son simplemente una ayuda extra al único ser del planeta capaz de crear nuevo contenido y conocimiento: el ser humano.
El artículo Descubren que esta IA ha modificado su código interno para evadir los controles humanos fue publicado originalmente en Urban Tecno.
Dejar una contestacion