¿La IA te miente? Te contamos qué está pasando y qué puedes hacer para evitarlo
Las “alucinaciones” demuestran que la perfección queda lejos todavía.
IA
En octubre del año pasado, KPMG, una de las “cuatro grandes” firmas de contabilidad del mundo, publicó un estudio sobre IA titulado “Experiencia total: redefiniendo la excelencia en la era de la IA”.
El documento trataba sobre las formas en que las empresas han comenzado a utilizar la Inteligencia Artificial para ofrecer a los clientes lo que quieren. Por muy buena que sea la IA para brindarnos respuestas detalladas sobre cualquier tema, tiene tendencia a “alucinar”.
Nos explicamos: las respuestas se consideran una alucinación cuando el modelo de IA proporciona una respuesta incorrecta, inventada o sin sentido que no está respaldada por sus datos de entrenamiento. A diferencia de los humanos, que alucinan por otros motivos, los modelos de IA alucinan debido a varios factores.
LOS40
LOS40
La IA predice la palabra más probable basándose en estadísticas, lo que significa que a veces responde prefiriendo la fluidez a la precisión. El entrenamiento con datos defectuosos, desactualizados o incompletos también puede llevar a la IA a intentar adivinar qué palabra usar para completar un espacio en blanco.
Además, las indicaciones vagas o demasiado complicadas pueden causar alucinaciones por IA. Es más probable que recibamos una respuesta con alucinaciones si el tema sobre el que preguntamos trata sobre información específica, rara o compleja. La amenaza de recibir una respuesta que sea una alucinación es lo que más tememos los usuarios para dar el salto a la IA.
KPMG
KPMG
La razón por la que estamos hablando de estas alucinaciones está relacionada con el estudio antes mencionado publicado por KPMG. Resulta que el informe estaba lleno de alucinaciones e incluía ejemplos de agentes IA que no existen o no tienen las capacidades mencionadas en el estudio.
GPTZero, una empresa que desarrolló una herramienta utilizada para detectar si el texto está generado por IA, y el Financial Times descubrieron una serie de errores de datos y notas a pie de página falsas en el informe. Averiguaron que sólo cinco de 45 citas usaban fuentes legítimas. Las investigaciones también encontraron que la mitad de las afirmaciones del periódico no eran reales o estaban mal atribuidas.
Como ejemplo, KPMG escribió sobre un chatbot para Emirates Airline llamado Sara que podía hablar con los pasajeros y realizar cambios en sus planes de vuelo. Resulta que Sara era un asistente móvil lanzado en 2023 y no tenía la capacidad de cambiar la información de vuelo de los pasajeros.
El estudio también afirmó que el banco de inversión suizo global UBS había integrado un agente de IA en su “asesoramiento de inversiones, gestión de riesgos y monitoreo de cumplimiento”. Eso suena bastante interesante hasta que descubrimos que UBS le dijo al Times que la información era “objetivamente incorrecta”.
La firma de contabilidad le dijo al Times que se toma muy en serio la integridad y precisión del contenido que publica. Esto los llevó a retirar el documento “revisando las circunstancias que rodearon su publicación”.
Para aquellos que no estéis seguros acerca de la IA, es posible que sintáis que estas “alucinaciones” anulan el propósito de tener una herramienta que pueda recopilar información. Si aún deseáis utilizarla, hay algunas cosas que se pueden hacer para reducir las posibilidades de recibir respuestas a consultas que se ven empañadas por alucinaciones:
- Mantener las indicaciones que escribamos claras y precisas, e incluir contexto.
- Proporcionar fuentes directas a la IA para un mejor análisis.
- Asignar a la IA un rol específico en el arranque de la conversación.
- Utilizar instrucciones con varios pasos y pedirle a la IA que piense tras cada uno.
-Reducir la ‘temperatura’ de la IA, que en este contexto significa decirle que no improvise, reduciendo así la posibilidad de que comience a desviarse, y por ende a alucinar, para llenar espacios en blanco.
Como vemos, el día en el que podamos pedirle cualquier dato a la Inteligencia Artificial y no tengamos que temer que se haya pegado una ‘inventada colosal’ aún no ha llegado. No obstante, tenemos claro que todo es cuestión de tiempo.
