El caballero obedece al sabio: en cada casilla intenta ir hacia la flecha del plan. 🧭 = un paso; 🏃 = la aventura completa.
Verás un globo con lo que el caballero quiere, el 🎲 del barro y su movimiento real.
Sin mando: aquí decide el aprendiz. Contrólalo desde la Mesa del aprendiz, a la derecha (👣 1 paso, 🏃 episodio, ⏩ entrenamiento).
¿Quieres ver al caballero seguir el plan óptimo? Elige 🧙 Sabio arriba.
Elige cómo quieres avanzar: casilla a casilla (lo más didáctico), un barrido completo o todo de una vez.
Elige cómo quieres ver aprender al caballero: paso a paso con la explicación completa, un episodio animado o muchos episodios de golpe.
Cambiar un ajuste del reino crea un problema nuevo: se borran los cálculos del sabio y la libreta del aprendiz.
Como una partida de ajedrez anotada: estado antes → orden → qué hizo el barro → estado después. En los minitableros, el caballero es el cuadro azul y su casilla anterior lleva borde negro. Haz clic en una fila para ver el tablero en ese momento.
Un caballero debe rescatar a la princesa sin caer en la guarida del dragón. El camino está embarrado y a veces resbala. Aquí verás, paso a paso, cómo se decide el mejor camino con los Procesos de Decisión de Markov y la ecuación de Bellman, y cómo un caballero puede aprenderlo solo con Q-learning.
| Método del sabio | Dos formas de calcular el mejor plan. Iteración de valor calcula directamente cuánto vale cada casilla. Iteración de política parte de un plan malo y lo va mejorando. Si es tu primera vez, empieza por la iteración de valor. Con el 🤖 Aprendiz, la misma fila «Método» ofrece Q-learning o SARSA. Cambiar de método borra los cálculos. |
| 👣 Calcular 1 casilla | El sabio calcula el valor de una sola casilla. Es la forma más lenta y la más didáctica: el pergamino te explica la cuenta completa. La casilla calculada parpadea en naranja. |
| 📜 Calcular todo el tablero | Calcula todas las casillas de una vez. A esto se le llama un barrido. |
| ⏩ Repetir hasta que no cambie | Hace barridos automáticamente hasta que los valores dejan de cambiar (eso es converger). Puedes pararlo con ■ Detener. |
| 🔍 Evaluar / 💡 Mejorar plan | (Solo iteración de política) Evaluar calcula cuánto vale seguir el plan actual. Mejorar cambia las flechas por otras mejores. |
| ↺ Borrar cálculos | Pone todos los valores a 0 y conserva los ajustes del reino. |
| Mesa / ⚙ Configuración | En la Mesa eliges cómo avanzar (paso a paso, por barridos o automático) y ves el estado. El botón ⚙ abre una ventana con 🎚 Ajustes, 🗺 Mapa y 📖 Guía. Un resumen de los ajustes aparece siempre arriba de la Mesa, con un enlace «cambiar ›». |
| Ajustes del reino | Cansancio: cuánto cuesta cada paso. Barro: probabilidad de resbalar. Paciencia (γ): cuánto le importa al caballero el futuro. Cambiar cualquiera borra los cálculos, porque el problema ya es otro. |
| 🏃 Aventura completa | (Solo con el 🧙 Sabio) El caballero recorre una aventura entera siguiendo las flechas del plan. En cada paso verás una animación con lo que quiere hacer, el dado del barro y adónde llega de verdad. |
| 🧭 Seguir el plan | El caballero da un paso obedeciendo la flecha de su casilla. Si varias direcciones empatan, sortea entre ellas. |
| 🏠 Nueva aventura | Con el 🧙 Sabio no hace falta: al terminar una aventura, la siguiente flecha devuelve al caballero a la salida. Con el 🤖 Aprendiz, «🏠 Empezar episodio nuevo» lo devuelve a la salida (no borra lo aprendido). |
| 📜 Crónica | Historial de estados, como una partida de ajedrez anotada. Haz clic en una fila, o usa ⏮ ◀ ▶ ⏭, para ver el tablero en ese momento. 🎬 repite la aventura animada. |
| 👻 Caballeros fantasma | Aparecen cuando el sabio calcula una casilla: muestran dónde imagina que acabaría el caballero. No son movimientos reales. |
| 🏃 Aventura completa | El caballero camina solo hasta llegar a la princesa o al dragón. |
| 🎲 1000 aventuras | Simula mil aventuras de golpe y compara el resultado medio con lo que predijo el sabio. Con el 🧙 Sabio está en la Mesa del sabio (fila «Comprobar»); con el 🤖 Aprendiz, en el panel central. |
| Clic en una casilla | La selecciona (marco dorado). Abajo aparece el cálculo detallado, y puedes elegir otra dirección para ver cómo cambia la cuenta. |
| 🔀 Quién juega: Sabio / Aprendiz | Sabio: se calcula el plan conociendo el mapa. Aprendiz: el caballero aprende solo, moviéndose (Q-learning o SARSA). Cada uno tiene sus propios números. |
| 👣 1 paso de aprendizaje | (🤖 Aprendiz) El caballero decide, se mueve, observa la recompensa y corrige un número Q. El pergamino explica los 6 pasos con números reales. |
| ⏩ +10 / +100 / +1000 | (🤖 Aprendiz) Entrena muchos episodios rápidamente, sin animación. Mira cómo cambian los números del tablero y la curva de aprendizaje. |
| Curiosidad ε / Velocidad α | (🤖 Aprendiz) ε: cuánto explora al azar. α: cuánto corrige con cada experiencia. |
| ■ Detener | En la barra superior, siempre visible: pausa cualquier ejecución automática (barridos, episodios, capítulos de la guía). |
| ↺ Reiniciar todo | Vuelve a la situación inicial: ajustes originales, iteración de valor, valores en 0 y capítulo 1. |