Apple desactiva su polémica función de inteligencia artificial que mostraba noticias falsas

Apple continúa lanzando nuevos dispositivos al mercado. Algunos de los más recientes son los iPhone 16 y el iPad mini de 7ª generación, su tableta más compacta y, posiblemente, una de las más interesantes del mercado por su tamaño reducida y potencia. Sin embargo, los de la manzana mordida tiene, actualmente, otras prioridades.

Al igual que otras grandes compañías tecnológicas, Apple está apostando por la inteligencia artificial. Es uno de sus últimos grandes proyectos. De hecho, los lanzamientos más recientes de la compañía han estado «salpicados» por ella, siendo la novedad más importante. Bajo el nombre de Apple Intelligence, los californianos han desarrollado un conjunto de herramientas que busca hacer la vida de sus usuarios más fácil.

Como se puede leer en , Apple Intelligence está integrada en los iPhone, iPad y Mac para ayudar a los usuarios a escribir, expresarse y realizar otras cosas más fácilmente. Desde generar texto hasta crear imágenes, por realizar resúmenes «inteligentes» sobre las notificaciones. El problema es que esta última característica no funcionaba correctamente y creaba noticias falsas. Apple ya la ha desactivado.

iOS 18.3 desactivará los resúmenes inteligentes para todos los usuarios

La inteligencia artificial promete cambiar el mundo, pero también tiene sus riesgos. Uno de los principales riesgos de esta tecnología son las alucinaciones. Este término se refiere a los errores o respuestas incorrectas que un modelo de IA puede generar, sobre todo en tareas relacionadas con el procesamiento de lenguaje natural, reconocimiento de imágenes o, incluso, sistemas de recomendación.

El uso del término alucinación en inteligencia artificial se utiliza porque dicha tecnología parecer estar «viendo» o «creando» cosas que no existen, de la misma manera que el ser humano es capaz de experimentar alucinaciones, aunque no del mismo modo. Las alucinaciones pueden aparecer por diversos motivos: desde limitaciones en los datos de entrenamiento hasta una generalización excesiva, pasando por modelos complejos sin comprensión real.

Fue a principios de enero cuando se reportaron varios casos de alucinaciones en la característica de Apple Intelligence dedicada a resumir de manera inteligente las notificaciones sobre noticias. Desde que Rafa Nadal se había declarado homosexual (confundiendo la información con la historia de un tenista brasileño), hasta que Luigi Mangione se había disparado a sí mismo.

Ahora, se sabe que la compañía de Tim Cook ha desactivado la función de manera temporal mediante una actualización de software en fase de pruebas. Todos los dispositivos compatibles con Apple Intelligence la recibirán cuando la versión final de iOS 18.3 esté disponible oficialmente.

Si bien no se sabe cuándo Apple la volverá a activar, los de Cupertino han asegurado que están trabajando en mejorar la función potenciada con inteligencia artificial y que volverá a estar disponible en el futuro mediante una actualización de software.

El problema con los resúmenes inteligentes es que, en ocasiones, tergiversan la información de las notificaciones y crean noticias nuevas que resultan ser totalmente falsas. En un mundo en el que la desinformación está a la orden del día, supone un grave problema, y más viniendo de una gran compañía como Apple.

Varias voces críticas con la inteligencia artificial aseguran que esta tecnología no debería emplearse en todo, y un buen ejemplo se encuentra en la redacción de noticias. No obstante, parece no es lo que buscan los grandes del sector. Se estima que alrededor del 40% de todas las empresas del mundo reducirá su plantilla debido a la implementación de la IA.

El artículo Apple desactiva su polémica función de inteligencia artificial que mostraba noticias falsas fue publicado originalmente en Urban Tecno.

Sé el primero en comentar

Dejar una contestacion

Tu dirección de correo electrónico no será publicada.


*