Ayer estaba preparando un informe sobre un estudio de mercado para un cliente y me puse manos a ello usando ChatGPT.
Revisando algunos datos. Se le empezó a ir la pinza. Tuve que decirle “echa el freno, Madaleno”.
Me puse a trastear y ver a qué se debían esas “alucinaciones”.
De ahí que, en el artículo de hoy, también incluya frases de los años 80 (a ver si las encuentras todas).
Para los iniciados en esto de la Inteligencia artificial:
Las alucinaciones en la IA son respuestas falsas o incorrectas pero plausibles generadas por el algoritmo.
Toma jeroma, pastillas de goma. En lugar de admitir incertidumbre o decir que “No lo sabe”, prefieren “adivinar” e incluso inventárselo en vez de reconocer su ignorancia. Pero qué me estás container. Lo que lees.
Si es para un trabajo de poca importancia o preguntar la edad de Julio Iglesias, me río de Janeiro y a otra cosa, mariposa, pues si falla tampoco es un gran error. Pero, si te juegas como verdad un presupuesto o unos números para un proyecto y no son exactos, entonces… la cagaste Burt Lancaster y ni hablar del peluquín puedes usarlos.
Y, ¿por qué ocurren estas alucinaciones en la IA?
Por los sistemas de puntuación.
La menda, lerenda de la IA sólo premia aciertos y penaliza tanto los errores como quedarse en blanco, sin distinguir entre uno u otro.
Esto incentiva al modelo a arriesgarse con respuestas falsas o inventadas en lugar de decir “no sé”.
- Datos consistentes (ej. ortografía) los aprende bien y todo okei, makei.
- Datos arbitrarios, ambiguos o poco frecuentes al ser imposibles de predecir → llevan a alucinaciones ful de estambul.
Como ese amigo o cuñado que todo lo sabe y siempre opina sin tener ni idea.
Tienden a adivinar, flipando en colores, en vez de reconocer su desconocimiento ya que penalizan la incertidumbre.
O se van por las nubes, divagando sin dar una respuesta clara enrollándose como Charles Boyer.
A pesar de los avances recientes y de las inversiones multimillonarias, las alucinaciones deben acabar, ya que suponen un obstáculo para la fiabilidad.
OpenAI ha realizado un análisis exhaustivo sobre este tipo de umbrales.
¿En tu empresa también alucinan?
Prefieres arriesgarte en algo que no sabes cómo va a funcionar a quedarte parado.
Efectiviguonder, muchas veces hay que probar, pivotar, innovar y tratar de hacer cosas nuevas, pero con pies y cabeza.
Ya que si no te pueden penalizar más los errores que la incertidumbre.
En mi caso, si no sé algo, prefiero decirlo. No me hago el guay del Paraguay ni soy más tonto por desconocerlo.
Como decía el cómico Berto Romero en un monólogo «Lo que quiero es que no mientas. Si no lo sabes, pues di que no«. No por el error en sí, sino por esa tendencia a tirar para adelante como si nada. «Va a saco. Le da igual mentir«.
Y tú, ¿sabes decir «no lo sé»?
- ¿Improvisas respuestas al azar aunque no tengas certeza?
- ¿Haces conjeturas por si suena la flauta?
- ¿Cuál es la probabilidad real de acierto de tu próxima estrategia?
En fin, serafín
Tanto si usas la IA para tus informes como cualquier otra tarea que requiera algo de precisión, yo que tú, de momento, revisaría números.
No vayas a poner, como un amigo con el que comí el otro día, que está haciendo un proyecto agrario y le salía una tubería de regadío de 5 metros de diámetro.
De eso nada, monada.
Menudo chorrazo para las lechugas, que su campo sería como el Aquopolis.
Otros artículos relacionados:
- Toca apretar el culo. Las prisas no son buenas consejeras
- Inteligencia Artificial Agéntica: expertos en tu negocio
- Neuralink: Mayor capacidad para interactuar con la IA
- Equipo gestor con bots de IA
- ¡OJO! Que te espían
- ¿Es la IA imprescindible en tu día a día?
- Integrar la IA en tu empresa ¿Cuál es el objetivo?
- IA para empresarios: Qué hacer (y qué no) para no quedarte fuera
- Agentes de IA autónomos: ¿el siguiente gran salto en la automatización?
- Cuando el cliente ya no busca… y es su agente IA quien compra por él
- El nuevo riesgo no está en la IA. Está en cómo la usamos
0 comentarios