Lección 2.5 · 5 min
Por qué a veces inventa
El modelo escribe el token que mejor encaja con lo que viene antes. Casi siempre eso coincide con la verdad. A veces no: cuando le falta un dato, rellena el hueco con algo que suena bien. A eso le dicen alucinación.
La seguridad engaña
Es como el amigo que te explica cómo llegar a una dirección donde nunca ha ido. «Dobla en el semáforo, después de la farmacia.» Lo dice con toda la confianza del mundo y te manda a la calle equivocada.
Algunas herramientas te dejan mover un ajuste llamado temperatura. Con temperatura baja, el modelo elige casi siempre el token más probable y responde parecido cada vez. Con temperatura alta se arriesga con opciones menos probables, y las respuestas varían más. Ninguna posición vuelve verdadero un dato.
Lo que yo hago:
- Con fechas, leyes, salud o dinero, pido la fuente y la abro. Reviso que exista y que diga lo que el modelo dice.
- Si le paso un documento, le pido que responda solo con lo que está ahí y que me avise si no encuentra el dato.
- En trabajos largos, primero le pido la lista de afirmaciones que necesitan prueba. Después las reviso una por una.
La IA te adelanta el borrador. El visto bueno lo das tú.
Parte una frase
el juguete del módulo 2
Esta separación por sílabas y signos es una aproximación. Cada modelo usa su propio tokenizador.
Tres preguntas
Te llevas esto
video pronto
Medalla del módulo 2. Ganas cuando completas todas sus lecciones con 3 de 3.
Medalla ganadaMódulo 2: Cómo piensa, sin matemáticas