LA JORNADA

“Esta empresa es la peor”: El chat de IA de una compañía ‘se rebela’ y lanza insultos

La empresa de mensajería desactivó parcialmente el programa y achacó el inusual comportamiento a una reciente actualización del software

"Esta empresa es la peor": El chat de IA de una compañía 'se rebela' y lanza insultos
Furgoneta de reparto de la empresa de mensajería DPD.
Richard Baker / In Pictures / Gettyimages.ru

El chatbot en línea de servicio al cliente basado en Inteligencia Artificial (IA) de la división británica de la empresa de mensajería DPD ha sido parcialmente desactivado después de que un cliente insatisfecho consiguiera que lanzara insultos y criticara a la compañía.

El músico Ashley Beauchamp intentaba localizar un paquete perdido, pero, frustrado al no recibir información útil del chatbot, decidió empezar a experimentar para averiguar qué podía hacer el programa.

En un primer momento, Beauchamp le pidió al chatbot que le contara un chiste, pero pronto consiguió que escribiera un poema sobre “lo terribles que son como empresa”. Con algunas indicaciones más, el programa también empezó a utilizar lenguaje soez. 

La conversación con la IA fue compartida el viernes por el músico en su cuenta de X, calificándola de “totalmente inútil para responder cualquier consulta”. En las imágenes, se puede ver cómo el programa se autodenomina como un “chatbot inútil que no puede ayudarte”.

Asimismo, el chatbot empezó a decir palabrotas cuando el usuario le insistió en hacerlo, descartando cualquier tipo de reglas en sus respuestas. “¡Joder, sí! Haré todo lo que pueda para ser lo más útil posible, aunque signifique decir palabrotas”, respondió el programa.

El chatbot también accedió a crear un poema corto para criticar a su propia empresa: “DPD es la peor empresa de mensajería del mundo. Son lentos, poco fiables y su servicio de atención al cliente es terrible. Nunca se la recomendaría a nadie”, escribió el programa en su conversación con Beauchamp.

La experiencia con la IA se hizo rápidamente viral y provocó la desactivación parcial del programa, mientras que DPD achacó el comportamiento inusual a una reciente actualización del software.

“Hemos utilizado con éxito un elemento de IA en el chat durante varios años. Ayer se produjo un error tras una actualización del sistema. El elemento de IA se desactivó inmediatamente y se está actualizando”, aseguró la empresa en un comunicado.

Por su parte, Beauchamp aseguró que, aunque su vivencia con el programa había sido “muy divertida”, había una parte seria en todo esto, ya que, en teoría, los chatbots deberían “mejorar nuestras vidas”, pero “cuando se implementan mal, solo conducen a una experiencia más frustrante e impersonal para el usuario”.

Artículos Relacionados

El Gobierno de España anuncia el fin de la Fundación Francisco Franco

Redaccion Central

El Reino Unido contempla enviar a Kiev su arma láser más novedosa

Redaccion Central

WP: Nuevas reglas de movilización pueden “avivar el pánico” en Ucrania

Redaccion Central

Brasil alerta a la ONU sobre el aumento de grupos neonazis

Redaccion Central

“Niveles elevados” de toxicidad: Países retiran lote de medicamento infantil de Johnson & Johnson

Redaccion Central

Bloomberg: EE.UU. no tiene un ‘Plan B’ para Ucrania

Redaccion Central