Apple Reveals Plan to Highlight AI-Generated Nature of Flawed Notifications

Pronto, Apple estrenará una actualización para iOS que indicará más claramente cuando las notificaciones han sido resumidas mediante su software de inteligencia Apple. La compañía ha enfrentado una notable oposición respecto a la característica de resumen, especialmente del BBC, que ha manifestado que la tecnología de inteligencia artificial resumió incorrectamente sus notificaciones de noticias.

En diciembre, poco tiempo después de que Apple lanzara algunas de las primeras características importantes de Apple Intelligence, el BBC publicó un artículo afirmando que la IA había resumido erróneamente una serie de notificaciones de su aplicación indicando que Luigi Mangione, supuesto asesino del CEO de UnitedHealthcare, Brian Thompson, se había disparado a sí mismo, cuando en realidad no lo había hecho.

El BBC comentó que tal error podría dañar la confianza en una industria mediática que ya sufre de falta de credibilidad por parte del público en general. Este problema amenaza con perjudicar la confianza en las plataformas digitales como fuente de información.

Después de varias semanas, Apple finalmente respondió al BBC, señalando que abordaría el problema.

“Una actualización de software en las próximas semanas aclarará aún más cuando el texto mostrado es un resumen proporcionado por Apple Intelligence,” comentó la empresa al BBC. “Animamos a los usuarios a reportar alguna preocupación si ven un resumen de notificación inesperado.”

Captura de pantalla de un iPhone mostrando una notificación del BBC que está resumida incorrectamente.
Una notificación de la aplicación del BBC que incluye un resumen incorrecto. Crédito: BBC

No está claro cómo Apple dejará en evidencia a los usuarios cuando una notificación haya sido resumida. Actualmente, el ícono oficial de una aplicación se muestra junto a los resúmenes. Quizás cuando iOS crea un resumen de una notificación, podría sustituir el ícono oficial—en este caso para la aplicación del BBC—por el ícono de Siri para hacer evidente la diferencia. No obstante, esto puede no ser suficiente. ¿Con qué frecuencia un usuario inexperto podría leer estos resúmenes y no comprender qué está ocurriendo?

El objetivo de los resúmenes de notificaciones es reescribir múltiples alertas de una aplicación en una sola, para que los usuarios puedan estar al tanto rápidamente e identificar cualquier cosa que requiera atención. Sin embargo, más allá de los errores evidentes, los resúmenes de IA han sido objeto de burla por ser, a veces, torpes o carentes de contexto necesario, lo que aún requiere leer las notificaciones completas para entenderlas. Si los usuarios no tienen confianza en los resúmenes y al final deben revisar las notificaciones completas, no están ahorrando tiempo. Este es el mismo problema que enfrentó Siri anteriormente: El asistente de voz fallaba en consultas básicas y los usuarios rápidamente perdieron la fe de que podían depender de él para prácticamente nada más que iniciar un temporizador.

Apple ha sido criticada por el estreno de Apple Intelligence, con opiniones en redes sociales indicando que muchas personas consideran que las características iniciales son en gran medida inútiles o perjudiciales para la experiencia en iOS. En diciembre, la compañía agregó soporte para ChatGPT en Siri, significando que algunas consultas ahora se delegan al chatbot de OpenAI para que las resuelva—no es particularmente innovador considerando que la aplicación de ChatGPT es más capaz. Siri en sí sigue siendo un asistente mediocre, pero Apple planea mejorarla con habilidades de inteligencia artificial conversacional; informes recientes sugieren que eso llevará tiempo. También tiene la intención de sumar más funciones de IA a iOS, como permitir que Siri interactúe directamente con aplicaciones, haciendo posible que los usuarios le pidan, por ejemplo, que busque en su correo una reserva para cenar.

El motivo detrás del lanzamiento de Apple Intelligence es claramente la necesidad de motivar actualizaciones de iPhone; el smartphone representa más de la mitad de los ingresos de Apple, y Apple Intelligence solo está disponible en el iPhone 15 Pro y modelos superiores. Sin embargo, la mayoría de las características lanzadas hasta ahora han sido decepcionantes—como la capacidad de identificar objetos del mundo real al apuntar la cámara hacia ellos—y encuestas recientes sugieren que los consumidores no están comprando nuevos iPhones para obtenerlas.

No debe sorprender a nadie que haya interactuado con IA generativa que estos problemas iban a surgir. Pero parece poco característico de Apple incorporar tecnología en sus productos como la IA generativa tan pronto, dado que es notoriamente difícil de controlar y propensa a alucinar o producir resultados erróneos. Para una empresa que se preocupa tanto por el pulido, esto es un desastre hasta ahora.

  • Related Posts

    FBI Triumphantly Triggers Self-Destruct Mechanism on Malware in U.S. Systems

    PlugX a été désactivé.

    Surge in Popularity: TikTok Users Flock to New Chinese Social Media Haven Amid U.S. Ban Fears

    As the TikTok prohibition approaches without much sign of intervention from the Supreme Court, users are urgently searching for a new platform to consume their time. Instead of resorting to…

    Leave a Reply

    Your email address will not be published. Required fields are marked *