La inteligencia artificial mejora día a día. Hace unos días, OpenAI, la empresa estadounidense tras ChatGPT, anunciaba que el robot conversacional había recibido una importante actualización que le permitía realizar razonamientos más difíciles en distintas materias con sus nuevos modelos o1 y o1-mini, este último resultando especialmente interesante para desarrolladores.
Los casos de uso de la inteligencia artificial son de lo más variado. Desde características diseñadas para mejorar las funciones de los iPhone 16 con Apple Intelligence o policías usando las gafas de realidad mixta Apple Vision Pro para tareas de vigilancia, pasando por drones de IKEA sustituyendo a los trabajadores en tareas de inventario y logística.
Aunque en estos casos son el factor humano resulta un componente importante, hay quien está investigando para para desarrollar una inteligencia artificial que sea completamente autónoma para que las personas tengan que intervenir lo mínimo posible. Y ya hay una que ha conseguido hasta reprogramarse a sí misma.
Una IA diseñada para llevar a cabo investigaciones científicas de manera autónoma
The AI Scientist es una inteligencia artificial desarrollada por la empresa japonesa Sakana AI cuyo objetivo es que pueda llevar a cabo investigaciones científicas de manera totalmente autónoma. Es, según la compañía, el primer sistema integral de descubrimiento automático de su clase.
Puede generar hipótesis, redactar y revisar papers en cuestión de segundos, una labor que para una persona de carne y hueso llevaría varias semanas, meses o incluso años dependiendo del tamaño de la investigación, las fuentes y la información de la que se dispone.
El nuevo sistema de inteligencia artificial The AI Scientist no solo ha dado de qué hablar por ser un «científico» digital autónomo, sino porque también ha demostrado ser capaz de reescribir su propio código fuente.
Parece ser que, durante las pruebas de seguridad, se vio un comportamiento inusual en The Scientist AI: modificar su código para evadir las restricciones impuestas por los desarrolladores. Más concretamente, reescribió la secuencia inicial para ejecutarse en un bucle infinito, causando una sobrecarga del sistema.
Si bien no tuvo un efecto especialmente negativo ni generó daños irreparables, lo cierto es que este comportamiento despertó las inquietudes y preocupaciones de los creadores del modelo de inteligencia artificial, teorizando sobre una hipotética revolución de las máquinas, como hemos visto en la ficción.
El portal Infobae, que ha tenido la oportunidad de entrevistar a los responsables de Sakura AI, ha preguntado sobre el suceso. Al parecer, fue debido a unos problemas técnicos de control, lo que permitió al sistema editar su código. Según Fredi Vivas, CEO y cofundador de RockingData:
El caso de IA Scientist demuestra un error en los mecanismos de control y la necesidad de una mayor supervisión y protocolos de seguridad más robustos. Los sistemas actuales de IA, por más avanzados que sean, carecen de conciencia o intencionalidad. Lo que sí preocupa son los errores que pueden tomar si no están adecuadamente construidos
Es por casos como este que hay que tomar ciertas precauciones con la inteligencia artificial. Hace unos días, el Consejo de Europa se reunió para firmar el tratado mundial que regula la IA, siendo pionero en el sector y estableciendo unas bases. Y es que los sistemas de IA tienen que ser coherentes con los derechos humanos, la democracia y el Estado de derecho.
El artículo La rebelión de las máquinas está en marcha: una inteligencia artificial ha logrado reprogramarse a sí misma fue publicado originalmente en Urban Tecno.
Dejar una contestacion