Dice Klarna que siempre no va a reemplazar a sus agentes de servicio al cliente con IA

El año pasado escribí sobre Klarna y su uso de IA:

Un año sin contratar personal, y parece que los procesos de negocio no se han visto afectados, sino al contrario. Es interesante ver cómo, poco a poco, la inteligencia artificial se está volviendo más prevalente en las empresas. Sabía que hay algunas compañías que cada vez están perdiéndole el miedo y usándola más, pero no sabía de alguna que literalmente hubiera dejado de contratar personas gracias a ella.

Esta semana, Martin Peers reporta en The Information que siempre no:

Esta semana, el director ejecutivo, Sebastian Siemiatkowski, anunció que la compañía está cambiando de rumbo y buscará contratar más personal humano para la atención al cliente, citando las expectativas de los clientes de que “siempre habrá un humano si se desea”.

El cambio radical de Klarna plantea interrogantes sobre la rentabilidad de la automatización para las empresas. La compañía reveló hace unos meses que el chatbot de atención al cliente con inteligencia artificial le había ayudado a ahorrar alrededor de 39 millones de dólares en 2024. Quizás Siemiatkowski determinó que la pérdida de negocio debido a clientes frustrados que no pudieron contactar con un humano superó esos ahorros relativamente modestos.

Los LLMs todavía no están en un punto donde se les puede confiar el trato directo con clientes. Cursor lo sabe:

La semana pasada, algunos desarrolladores notaron que Cursor cerraba su sesión cuando intentaban iniciar sesión desde una segunda computadora.

Cuando los desarrolladores se comunicaron con el correo electrónico de soporte de Cursor sobre el problema, recibieron una respuesta del agente de soporte al cliente de IA de la empresa diciendo que este era un comportamiento normal bajo la nueva política de inicio de sesión de Cursor. El problema, sin embargo, era que no existía tal política de inicio de sesión. El robot de atención al cliente lo había inventado, lo que se conoce como una “alucinación”.