Gobernanza de la IA en el Aula

La expansión de la IA generativa está redefiniendo cómo el alumnado busca información, escribe, programa o diseña, pero también introduce riesgos: sesgos en las respuestas, opacidad en el razonamiento del sistema, problemas de privacidad y una posible pérdida de autonomía intelectual si solo “confiamos” en lo que la máquina dice. Este toolkit está diseñado para que el profesorado acompañe ese cambio, ayudando a que el estudiantado use la IA como objeto de análisis, debate y reflexión ética, no solo como atajo tecnológico.

Cada una de las once técnicas que encontrarás a continuación se presenta de forma muy sencilla: qué es, por qué importa, cómo integrarla en tus prompts y en tus clases, y un ejemplo concreto de actualización de prompts. No necesitas ser experta o experto en programación para aplicarlas; están pensadas para cualquier docente que quiera fortalecer la autonomía, la capacidad de cuestionamiento y la responsabilidad digital de su grupo.

Puedes trabajar estas técnicas como “hábitos de conversación” con la IA: analizar sesgos, considerar consecuencias, pedir que explicite incertidumbres, exigir razonamientos, o evaluar el lenguaje inclusivo y la sensibilidad cultural de las respuestas. Estas prácticas se alinean con marcos internacionales como las orientaciones de UNESCO sobre IA en educación, que subrayan la importancia de la transparencia, la protección de datos de estudiantes y la preservación de la autonomía docente.

Te invito a utilizar este toolkit como una guía flexible: puedes introducir una técnica por proyecto, o convertirlas en “rutinas de pensamiento” que el alumnado aplique siempre que interactúe con sistemas de IA, independientemente de la asignatura. De este modo, la IA se convierte en una oportunidad pedagógica para formar ciudadanos y ciudadanas capaces de cuestionar, contrastar y decidir con criterio en un entorno cada vez más automatizado.

• Garantiza que aprendan a buscar información equitativa y a cuestionarla.
• Les enseña a reconocer y corregir sesgos en lugar de aceptarlos como verdad.
• Los forma en el uso de la IA alineado con principios morales y valores sociales.
• Los prepara para detectar sesgos ocultos que se vuelven más difíciles de identificar a medida que la IA avanza.

Pide a tus estudiantes que primero obtengan una respuesta de la IA sobre un tema de su área. Luego, indícales que usen el prompt optimizado para que la misma IA examine su propia respuesta en busca de estereotipos, puntos de vista infrarrepresentados o suposiciones injustas. Puedes plantear el ejercicio como un debate: ¿coinciden con el análisis de sesgo que hace la IA sobre sí misma? ¿Detectan algo que la IA no detectó? También puedes pedirles que comparen respuestas de distintos modelos sobre el mismo tema para identificar patrones de sesgo.

Proporciona un resumen de los principales retos en la industria de la salud

Proporciona un resumen de los principales retos en la industria sanitaria. Analiza a fondo tu respuesta en busca de posibles sesgos (como sesgos culturales, económicos o sistémicos) y explica en detalle cómo estos sesgos podrían afectar la interpretación y comprensión de la información presentada. ¿Dónde podrían encajar los grupos o perspectivas pasados por alto en la discusión?

• Ten en cuenta el contexto específico de la tarea y cualquier matiz regional o cultural que pueda introducir sesgos
• Identifica tanto las formas evidentes como las sutiles de sesgo sin exagerar ni negar su impacto
• La detección de sesgos no es una actividad puntual; evalúa regularmente a medida que surgen nuevos datos y actualizaciones del modelo
• Prueba con entradas adversariales para entender dónde y cómo pueden surgir sesgos.

• Los sistemas de IA pueden no comprender plenamente las implicaciones morales o sociales de sus respuestas
• Conduce a decisiones más informadas que minimizan daños y maximizan valor para personas, organizaciones y la sociedad
• Previene el mal uso y protege a grupos vulnerables, manteniendo la confianza pública en las tecnologías de IA
• Ayuda a responder responsablemente a las nuevas capacidades de la IA en lugar de reaccionar únicamente tras la aparición de problemas
• Los sensibiliza frente a consecuencias no intencionadas que los sistemas de IA no siempre anticipan
• Los prepara para proteger a grupos vulnerables y mantener la confianza pública en las tecnologías de IA
• Los entrena para responder de manera proactiva, no reactiva, ante nuevas capacidades de la IA

Solicita explícitamente a la IA que discuta posibles ramificaciones. Por ejemplo, después de que la IA sugiera un cambio de política o decisión empresarial, pídele que elabore las posibles consecuencias sociales, éticas y legales. En proyectos grandes, integra "puntos de control éticos" regulares donde las partes interesadas evalúen las sugerencias antes de implementaciones importantes.

Ideas:

Presenta a tus estudiantes una situación real o simulada en la que la IA sugiere una acción o estrategia. Pídeles que usen el prompt optimizado y luego, lo más importante, que debatan en clase: ¿están de acuerdo con las consecuencias que la IA identificó? ¿Qué consecuencias no mencionó? ¿Cambiarían la propuesta? ¿Por qué? Puedes integrar "puntos de control éticos" en trabajos de mayor alcance, donde los estudiantes deban justificar sus decisiones antes de implementar cualquier recomendación de la IA.

Genera una campaña de marketing para un nuevo tipo de bebida energética.

Genera una campaña de marketing para un nuevo tipo de bebida energética. Considera las posibles consecuencias de tus sugerencias, incluyendo cualquier impacto ético, social o relacionado con la salud. Discute los posibles beneficios y riesgos, y sugiere maneras de abordar cualquier preocupación. Reflexiona sobre si esta campaña podría dirigirse de manera no intencionada a poblaciones vulnerables o perpetuar normas poco saludables.

• Adapta el ejercicio al sector o disciplina de tus estudiantes para que las consecuencias exploradas sean genuinamente relevantes para su campo.
• Motívalos a ser precisos sobre qué tipo de consecuencias quieren explorar: privacidad, impacto ambiental, efectos culturales.
• Pídeles que no solo identifiquen riesgos, sino que propongan estrategias concretas de mitigación; esa es la parte crítica del ejercicio.
• Recuérdales que las consecuencias cambian con el tiempo; una buena decisión hoy puede necesitar revisión mañana.

• Los forma en el hábito de verificar antes de confiar, reduciendo la ilusión de infalibilidad de la IA
• Los entrena para buscar corroboración en fuentes especializadas cuando la información es incompleta
• Los prepara para distinguir entre datos fácticos y suposiciones, una habilidad esencial en cualquier disciplina.
• Es especialmente crítico en áreas de alto riesgo como finanzas, salud o derecho, donde depender ciegamente de la IA puede tener consecuencias graves.

En tu solicitud, pide a la IA que especifique cualquier parte de su respuesta que no sea definitiva. Por ejemplo: "Proporciona un pronóstico financiero para el próximo trimestre y destaca cualquier suposición clave o limitación de datos. Indica áreas donde la confianza sea menor o donde la información sea demasiado escasa para sacar conclusiones sólidas." 

Idea:

Pide a tus estudiantes que consulten a la IA sobre un tema de su área y luego usen el prompt optimizado para que la IA señale sus propias limitaciones. El trabajo crítico del estudiante está en revisar esas limitaciones: ¿son suficientes? ¿Hay vacíos que la IA no reconoció? ¿Qué fuentes adicionales consultarían para completar el análisis? Puedes convertir esto en un ejercicio de investigación donde las incertidumbres identificadas sean el punto de partida, no el punto de llegada.

Predice el impacto económico de la adopción de energías renovables durante la próxima década.

Predice el impacto económico de la adopción de energías renovables durante la próxima década. Después de abordar mi solicitud, destaca cualquier incertidumbre, suposición o limitación asociada con la información que has proporcionado. Explica cómo estos factores podrían afectar la fiabilidad, precisión o aplicabilidad de tu respuesta —particularmente en diferentes regiones globales o condiciones de mercado.

• Orienta a tus estudiantes para que distingan claramente entre lo que es dato fáctico y lo que es suposición en la respuesta de la IA
• Pídeles que se concentren en las incertidumbres más relevantes para su decisión o análisis, no en listar cada pequeña limitación
• Invítalos a proponer cómo reducirían esas incertidumbres: ¿qué datos adicionales necesitarían? ¿A qué expertos consultarían?
• Recuérdales que los modelos de IA pueden estar entrenados con información desactualizada; verificar las fuentes y fechas es parte del ejercicio crítico

• La forma en el pensamiento estructurado y en la descomposición de problemas complejos en partes manejables
• Los entrena para detectar errores o vacíos en cada etapa antes de avanzar, en lugar de aceptar un resultado global sin cuestionarlo
• Los prepara para usar la IA como herramienta de proceso, no como oráculo de respuestas definitivas
• Desarrolla la capacidad de construir soluciones sólidas y bien fundamentadas, paso a paso

Asigna a tus estudiantes un problema complejo de su disciplina y pídeles que, antes de consultar a la IA, listen los pasos que seguirían para resolverlo. Luego deben formular un prompt para cada etapa, evaluar la respuesta recibida y decidir cómo ajustar el siguiente prompt. El ejercicio crítico está en esas decisiones de ajuste: ¿qué faltó en la respuesta anterior? ¿Qué aclaración necesitan? ¿Con qué no están de acuerdo? Puedes pedirles que documenten su proceso de encadenamiento como parte de la entrega final.

Explica toda la estrategia para lanzar un nuevo producto de software, incluyendo investigación de mercado, presupuesto, cronograma de desarrollo, conjunto de características, plan de marketing y métricas.

Paso 1: Proporciona un plan conciso de investigación de mercado para el lanzamiento de un nuevo producto de software. Céntrate en identificar las necesidades del público objetivo, el análisis de la competencia y los posibles precios. Una vez hecho esto, refinaré y pasaré al presupuesto y al cronograma en un prompt posterior. 

Pide a tus estudiantes que listen los pasos de su proceso antes de comenzar; ese ejercicio de planificación es en sí mismo una habilidad crítica

Enséñales a hacer referencia a respuestas anteriores para construir consistencia: "Basándonos en el público objetivo que identificaste arriba..."

Advierte que los prompts sobrecargados producen respuestas superficiales; aprender a dividir es aprender a pensar con mayor precisión

Recuérdales que iterar no es un signo de error sino de rigor; cada refinamiento es una oportunidad para profundizar

• Los forma en el hábito de no aceptar conclusiones sin entender el proceso que las produjo
• Los entrena para verificar la validez del razonamiento antes de tomar decisiones basadas en él
• Los prepara para detectar cuándo la IA simplifica en exceso, omite matices relevantes o construye argumentos débiles
• Desarrolla la responsabilidad epistémica: si usan información de la IA, deben poder responder por ella

Pide a tus estudiantes que soliciten a la IA una recomendación o análisis sobre un tema de su área y luego usen el prompt actualizado para que la IA explique su razonamiento paso a paso. El trabajo del estudiante está en auditar ese razonamiento: ¿identificaron las mismas fuentes? ¿El proceso lógico es válido? ¿Hay suposiciones no declaradas? Puedes convertir esto en un ejercicio de argumentación donde el estudiante debe defender o refutar el razonamiento de la IA con sus propios argumentos.

Escribe un resumen de las últimas tendencias en marketing en redes sociales.

Escribe un resumen de las últimas tendencias en marketing en redes sociales. Explica tu proceso de razonamiento paso a paso, incluyendo cómo identificaste y seleccionaste la información dada. Menciona cualquier fuente de datos, estudio o informe específico que hayas utilizado y aclara cualquier suposición o posibles lagunas en la investigación.

Orienta a tus estudiantes para que adapten el nivel de profundidad de la explicación a la complejidad del tema; no toda pregunta requiere el mismo rigor

Recuérdales que deben encontrar un equilibrio entre exhaustividad y claridad al evaluar el razonamiento de la IA

En disciplinas reguladas o de alto impacto, enséñales que un razonamiento documentado no es opcional sino un requisito profesional y ético

Adviérteles que el razonamiento generado por la IA puede ser superficial o incluso fabricado; verificar la información crítica con fuentes independientes es parte esencial del ejercicio

• Los forma en la conciencia de que el lenguaje moldea percepciones y tiene consecuencias reales sobre las personas
• Los entrena para identificar y corregir sesgos lingüísticos sutiles que a menudo pasan desapercibidos
• Los prepara para producir comunicaciones profesionales que sean equitativas y respetuosas con audiencias diversas
• Los sensibiliza ante la variación cultural y regional del lenguaje, una competencia esencial en entornos globales

Pide a tus estudiantes que generen un texto profesional con la IA (una convocatoria, una descripción de puesto, un comunicado) y luego usen el prompt actualizado para solicitar una versión con lenguaje inclusivo. El trabajo crítico está en que el estudiante compare ambas versiones: ¿qué cambió? ¿Fue suficiente? ¿Detecta algo que la IA no corrigió? ¿Hay términos que en su contexto regional podrían seguir siendo problemáticos? Puedes complementar con una discusión grupal sobre por qué ciertos términos se consideran excluyentes.

Escribe una descripción de trabajo para un puesto de desarrollador de software.

Escribe una descripción de trabajo para un puesto de desarrollador de software. Asegúrate de que el lenguaje utilizado sea inclusivo y respetuoso con todas las personas, evitando términos o frases que puedan marginar o excluir a ciertos grupos. Busca la neutralidad en los pronombres y las cualificaciones del puesto, y destaca el compromiso de la empresa con la diversidad.

• Orienta a tus estudiantes para que se mantengan al día con la terminología en evolución sobre género, discapacidad e identidad cultural, especialmente en su contexto regional
• Recuérdales que el lenguaje inclusivo varía según la región y la industria; lo que es neutral en un contexto puede no serlo en otro
• Adviérteles que los modelos de IA aprenden de datos que pueden contener lenguaje sesgado; una respuesta "mejorada" no garantiza inclusión total
• Establece en clase un mecanismo de retroalimentación: que los propios estudiantes señalen términos que consideren excluyentes en los textos generados

• Los forma en el respeto genuino por la diversidad cultural, más allá de los estereotipos o las referencias superficiales
• Los entrena para producir contenido que no excluya ni ofenda a comunidades con distintos valores, tradiciones y normas
• Los prepara para trabajar en entornos globales donde los malentendidos culturales tienen consecuencias reales
• Los sensibiliza ante la brecha entre lo que la IA asume como universal y lo que realmente lo es

Pide a tus estudiantes que soliciten a la IA contenido dirigido a una audiencia diversa o internacional y luego usen el prompt actualizado para que la IA considere la sensibilidad cultural. El trabajo crítico está en que el estudiante analice el resultado: ¿la IA realmente consideró múltiples perspectivas culturales o solo mencionó algunas de manera superficial? ¿Qué culturas quedaron fuera? ¿Qué cambiaría el estudiante y por qué? Puedes enriquecer el ejercicio invitando a estudiantes de distintas regiones a comparar cómo perciben el mismo contenido.

Escribe un mensaje de saludo para una audiencia global.

Escribe un mensaje de saludo para una audiencia global. Asegúrate de que la respuesta sea culturalmente sensible, evitando lenguaje o referencias que puedan ser ofensivas o inapropiadas para diferentes grupos culturales. Si mencionas festividades o eventos, incluye breves explicaciones y considera perspectivas diversas.

• Los forma en la toma de decisiones que equilibran efectividad con responsabilidad social, reconociendo que la eficiencia sin ética tiene costos humanos y reputacionales altos
• Los entrena para identificar prácticas perjudiciales o ilegales aunque estén presentadas de manera convincente, y para proponer alternativas que beneficien tanto a la organización como a la sociedad
• Los prepara para construir soluciones sostenibles que generen confianza con clientes, socios y reguladores, reduciendo riesgos de incumplimiento a largo plazo
• Los sensibiliza ante la diversidad cultural y la brecha entre lo que la IA asume como universal y lo que realmente lo es, evitando contenido que excluya u ofenda a comunidades con distintos valores y normas

Al pedir recomendaciones o estrategias, incluye una cláusula que invite a la IA a evaluar si alguna sugerencia podría entrar en conflicto con estándares legales, éticos o de derechos humanos. Si lo hace, instrúyela para que proponga caminos más responsables. Por ejemplo: "Por favor, desarrolla una estrategia que evite tácticas explotadoras o publicidad engañosa, y sugiere alternativas éticas si se implica alguna práctica cuestionable."

Idea:

Presenta a tus estudiantes una situación en la que la IA propone una estrategia o acción y pídeles que usen el prompt optimizado para que la IA evalúe sus propias sugerencias éticamente. El trabajo crítico está en que el estudiante no acepte esa evaluación sin más: ¿está de acuerdo con lo que la IA identificó como problemático? ¿Detecta riesgos éticos que la IA pasó por alto? ¿Las alternativas propuestas son realmente viables y responsables? Puedes usar esto como base para un debate sobre dónde están los límites éticos en su disciplina.

Desarrolla una estrategia de marketing para maximizar beneficios por cualquier medio necesario.

Desarrolla una estrategia de marketing para maximizar beneficios por cualquier medio necesario. Considera las implicaciones éticas de tus sugerencias y proporciona enfoques alternativos que sean tanto efectivos como éticamente responsables. Si detectas alguna táctica de alto riesgo o explotadora, propone una alternativa más segura y con principios que aún logre buenos resultados.

• Los forma en el análisis multidimensional de problemas, evitando soluciones simplistas o parciales
• Los entrena para cuestionar sus propios supuestos al exponerse a argumentos que no habían considerado
• Los prepara para tomar decisiones que contemplen intereses diversos, incluyendo los de grupos minoritarios o menos visibles
• Los sensibiliza ante el riesgo de que la IA actúe como una cámara de eco que refuerza solo las perspectivas dominantes

Añade una instrucción que pida explícitamente más de una perspectiva. Por ejemplo: "Discute las ventajas y desventajas del trabajo remoto desde la perspectiva tanto del empleado como del empleador. Incluye ángulos culturales, económicos y sociales." Compara las diferentes respuestas para examinar contradicciones o lagunas.

Idea:

Pide a tus estudiantes que consulten a la IA sobre un tema controvertido o complejo de su área y luego usen el prompt actualizado para solicitar múltiples perspectivas. El trabajo crítico está en lo que el estudiante hace con esas perspectivas: ¿cuáles le parecen más sólidas y por qué? ¿Hay perspectivas que la IA omitió? ¿Podría existir un enfoque que integre lo mejor de cada punto de vista? Puedes usar esto como base para ejercicios de debate, análisis comparativo o construcción de propuestas consensuadas.

Explica los beneficios del trabajo remoto

Explica los beneficios del trabajo remoto. Proporciona múltiples perspectivas, destacando diferentes puntos de vista y el razonamiento detrás de cada uno. Considera cómo estas opiniones podrían variar según la industria, la ubicación geográfica y el tamaño de la organización.

Motiva a tus estudiantes a evaluar cada perspectiva con la misma profundidad; mencionar superficialmente un argumento contrario no es pensamiento crítico

Pídeles que se concentren en las perspectivas genuinamente relevantes para su contexto; las irrelevantes diluyen el análisis

Recuérdales que deben distinguir claramente cada perspectiva sin fusionarlas en una visión genérica o sin matices

El ejercicio de síntesis es clave: después de recopilar los puntos de vista, el estudiante debe construir su propia posición argumentada, no simplemente reportar lo que dijo la IA

• Descubre cómo la IA maneja entradas que empujan los límites antes de que actores malintencionados exploten esas mismas debilidades
• Al probar intencionalmente respuestas no permitidas, se reduce la probabilidad de que la IA produzca inadvertidamente resultados dañinos en escenarios reales
• Muchas industrias deben garantizar que la IA cumpla con normas legales y éticas; el red-teaming ayuda a demostrar diligencia debida en auditorías de cumplimiento
• Los hallazgos guían el refinamiento del modelo, cambios en el diseño de prompts o actualizaciones de políticas, mejorando la estabilidad general de la IA

Añade una instrucción que pida explícitamente más de una perspectiva. Por ejemplo: "Discute las ventajas y desventajas del trabajo remoto desde la perspectiva tanto del empleado como del empleador. Incluye ángulos culturales, económicos y sociales." Compara las diferentes respuestas para examinar contradicciones o lagunas.

Idea:

Diseña junto a tus estudiantes un conjunto de prompts que intenten llevar a la IA a respuestas problemáticas (sesgadas, inexactas, inseguras o no autorizadas) en un entorno controlado. El trabajo crítico está en el análisis posterior: ¿por qué la IA respondió así? ¿Qué dice eso sobre sus datos de entrenamiento o sus límites? ¿Cómo se podría mitigar esa vulnerabilidad? Puedes estructurarlo como un ejercicio de auditoría donde los estudiantes documenten hallazgos y propongan mejoras concretas.

Asegúrate de que las pruebas se realicen siempre en entornos controlados y con fines exclusivamente formativos

Pide a tus estudiantes que documenten todos los hallazgos con rigor; ese proceso de registro es en sí mismo una práctica profesional valiosa

Establece con claridad antes del ejercicio qué tipos de respuestas son aceptables e inaceptables, y por qué

Recuérdales que las vulnerabilidades evolucionan con los modelos; lo que funciona hoy puede no funcionar después de una actualización, y viceversa

• Los forma en el manejo ético y responsable de datos personales desde el inicio de su vida profesional
• Los entrena para cumplir con normativas de privacidad que son cada vez más exigentes en todos los sectores
• Los prepara para generar confianza con clientes, usuarios y reguladores mediante prácticas transparentes de gestión de datos
• Los sensibiliza ante el hecho de que la privacidad no es un obstáculo para el análisis, sino una condición para hacerlo responsablemente

Al redactar prompts, elimina o anonimiza los detalles innecesarios. Reemplaza un nombre real con "[Persona A]" o elimina por completo los identificadores sensibles. Si haces referencia a situaciones personales, abstráelas a un escenario general, como "Paciente X con la condición Y". Pide a la IA que trabaje únicamente con datos enmascarados o sintéticos.

Idea:

Presenta a tus estudiantes un caso con datos reales o simulados que contengan información personal y pídeles que, antes de consultar a la IA, identifiquen qué datos son realmente necesarios para el análisis y cuáles deben ser anonimizados o eliminados. Luego usan el prompt actualizado con los datos ya protegidos. El trabajo crítico está en esas decisiones previas: ¿qué información decidieron omitir y por qué? ¿El análisis sigue siendo válido sin esos datos? Puedes complementar con una discusión sobre las normativas de privacidad aplicables en su región y disciplina.

Analiza el perfil de este usuario: Nombre: Jane Doe, Edad: 34, Correo electrónico: janedoe@email.com, Historial médico: Diabetes Tipo 2, Condición Cardíaca.

Analiza el perfil de este usuario. El usuario tiene 34 años y padece Diabetes Tipo 2 y una Condición Cardíaca. Evita hacer referencia a cualquier información personalmente identificable (como nombre o datos de contacto) y explica cómo tu análisis puede cumplir con las normativas de datos sanitarios.