Apple etiquetará las notificaciones resumidas con IA tras la llamada de atención de la BBC

El término ‘alucinación’ se usa frecuentemente para definir aquellas respuestas de la IA generativa que, siendo gramaticalmente perfectas, no tienen sentido o incluso pueden dar lugar a equívocos. Un caso muy conocido fue el de los resúmenes que Google implementó en su buscador y que recomendaron a un usuario que pusiera pegamento en su pizza (dando veracidad a un comentario humorístico de Reddit). Al final, los modelos de lenguaje trabajan con probabilidades y han sido entrenados en gran parte con contenido de internet, pero todavía no saben discriminar aquello real de lo ficticio.

En esta línea, la BBC se quejó en un artículo publicado en diciembre de que los resúmenes de Apple Intelligence habían cambiado el sentido de sus noticias, algunas veces alterando el contenido. Por ejemplo, denunciaron que en un resumen se decía que Luigi Mangione –el acusado por asesinar a un CEO de una aseguradora sanitaria estadounidense– se había disparado a sí mismo.

En un error todavía más grave, la IA del iPhone llegó a afirmar que Rafa Nadal era un jugador de tenis brasileño y que había salido del armario. A partir de este nuevo episodio, un portavoz de la compañía británica pidió que “es crucial que la audiencia pueda confiar en cualquier información o artículo periodístico publicado en nuestro nombre, incluidas las notificaciones”. Aunque la BBC explicó en ese momento que Apple no había atendido sus demandas, ahora la multinacional está dispuesta a cambiar su diseño.

Una etiqueta avisará cuando el contenido haya sido generado con IA

Apple ha anunciado que añadirá una etiqueta de ‘generado con IA’ a aquellos resúmenes creados con Apple Intelligence. Además, insisten en que se trata de una funcionalidad en fase beta, todavía no perfeccionada del todo. Y aunque puede ser una buena aliada para optimizar el tiempo que pasamos delante de las pantallas, todavía hay que comprobar la información que genera. La compañía también ha llamado a los usuarios a reportar aquellas alucinaciones que genere la IA.

Apple Intelligence ya ha llegado a algunos países del mundo, entre ellos Estados Unidos, para iPhone 15 Pro, 15 Pro Max y los iPhone 16. Para usarla en español, todavía tendremos que esperar como mínimo hasta el mes de abril.

La solución de Apple de etiquetar el contenido generado con IA es similar a la que han implementado algunas redes sociales, como Facebook, Instagram o TikTok, entre otras.

Esta polémica también es curiosa por el hecho de que Apple ya pedía desde septiembre a los editores de noticias que etiquetaran todo el contenido en el que se hubiera usado IA y que se publicara en su aplicación de noticias (todavía no disponible en España).

Suscríbete a las newsletters de Informativos Telecinco y te contamos las noticias en tu mail.

Síguenos en nuestro canal de WhatsApp y conoce toda la actualidad al momento.