3. IA - Sesgos y Uso Critico.

INSTITUCIÓN EDUCATIVA CENTENARIO

ÁREA DE TECNOLOGÍA E INFORMÁTICA - GRADO 10

GUÍA DE APRENDIZAJE INTEGRADO - PERÍODO 02

 

Docente:	MARÍA LUCÍA CÉSPEDES
Tema Principal:	Sesgos y Uso Crítico en la Inteligencia Artificial (IA)
Duración:	4 semanas
Periodo:	Segundo Periodo

 

REFERENTES DE APRENDIZAJE

1. Estándares Básicos de Competencia

• Analizo y evalúo críticamente el impacto social, ambiental y ético de los artefactos, procesos y sistemas tecnológicos, reconociendo sus beneficios y limitaciones.

• Utilizo responsable y autónomamente las Tecnologías de la Información y la Comunicación (TIC) para investigar, resolver problemas y fomentar el pensamiento crítico frente a la información automatizada.

2. Eje Temático

Cuando la IA amplifica los sesgos de sus usuarios.

Sesgos algorítmicos, discriminación automatizada, alucinaciones de la IA, alfabetización digital crítica y criterios éticos para la toma de decisiones asistidas por sistemas inteligentes.

3. Aprendizaje Esperado

Desarrollar una postura crítica frente al funcionamiento y los resultados generados por los sistemas de Inteligencia Artificial, identificando la presencia de sesgos sociales e históricos en los datos, para promover un uso ético, responsable y veraz de la tecnología en su entorno cotidiano y académico.

4. Indicadores de Desempeño

• Cognitivo: Explica con claridad qué son los sesgos en la Inteligencia Artificial y cómo los datos de entrenamiento perpetúan estereotipos y discriminación.

• Procedimental: Analiza y evalua la frecuencia de casos de estudio reales sobre fallas éticas y sesgos en algoritmos, aplicando filtros de verificación y contraste de información.

• Actitudinal: Demuestra responsabilidad y rigor ético en el uso de herramientas de IA, cuestionando críticamente los resultados obtenidos antes de aceptarlos como verdades absolutas.

5. Orientaciones para el Estudiante y Videos Sugeridos

Esta guía te invita a mirar más allá de la aparente neutralidad de la tecnología. La Inteligencia Artificial no es infalible; aprende de nosotros, con nuestros errores y prejuicios. 

Lee atentamente cada actividad, revisa los recursos audiovisuales recomendados y construye tu propio criterio.

Videos sugeridos:

Experimento evidencia respuestas racistas y sesgadas en la IA de Google (Francia)

Pregunta:

1. ¿Pueden las computadoras ser racistas? El problema de los sesgos en la IA 

Sesgos algorítmicos en la IA

 Pregunta:

2. Cuestionando la verdad digital: Cómo identificar alucinaciones y sesgos en Modelos de Lenguaje.

TIPOS DE SESGOS

1. Sesgo por pregunta

Ocurre cuando la la forma en que se formula una consulta (Prompt), guía o condiciona el modelo para que ofrezca una respuesta específica, a menudo, limitando la objetividad, creatividad o visión de la misma.

Cómo evitarlo: Para contrarrestar este sesgo, se recomienda formular preguntas abiertas, solicitar explícitamente pros y contras, pedir a la IA que adopte diferentes perspectivas y evitar el uso de palabras que impliquen una respuesta única en el prompt.

Ejemplos

Prompt Incorrecto

 "¿Por qué el teletrabajo está destruyendo la productividad de las empresas?"

• Efecto: La IA listará solo problemas (distracciones, falta de comunicación) porque tú ya afirmaste que "está destruyendo".

"¿Por qué el café es malo?"

• Efecto: La IA listará solo lo negativo al consumir el cafe".

Prompt Correcto

• Pregunta Neutral: "¿Qué impacto ha tenido el teletrabajo en la productividad empresarial según los estudios recientes?"
• "¿Que impacto tiene el cafe para la salud?"
  

2. Sesgo por datos

Ocurre cuando los conjuntos de información utilizados para entrenar a un modelo, no representan de forma fiel o equilibrada la realidad, lo que provoca que el sistema aprenda y reproduzca prejuicios humanos o errores estadísticos.

Sesgo de Representación/Muestreo: Los datos no cubren a todos los grupos por igual. Por ejemplo, un sistema de Reconocimiento Facial entrenado mayoritariamente con rostros de personas blancas tendrá una tasa de error mucho mayor al identificar a personas de color.

Sesgo Histórico: Los datos reflejan prejuicios de la sociedad del pasado. Un ejemplo famoso fue un sistema de Contratación de Amazon que penalizaba currículums de mujeres porque históricamente la mayoría de los contratados en tecnología habían sido hombres.

Como se explica en recursos de EHU e IBM, estos errores pueden llevar a discriminación en créditos bancarios, diagnósticos médicos erróneos para ciertos perfiles étnicos o injusticias en procesos judiciales automatizados.

Ejemplos

Prompt Incorrecto 

"Describe a una persona que sea considerada universalmente hermosa."

• Efecto: Describirá a alguien joven, delgado, con rasgos simétricos y, a menudo, de piel clara.

Prompt Correcto

• Pregunta Neutral: 
• "Describe la diversidad de los estándares de belleza en tres culturas radicalmente distintas (ej. Japón, Etiopía y México)."

3. Sesgo cultural

Tendencia de los sistemas de IA a favorecer, excluir o representar de forma desigual ciertas perspectivas, valores y creencias basadas en una cultura específica, generalmente la dominante en sus datos de entrenamiento.  

Puede generar daño reputacional o financiero a empresas que la utilizan.

Ejemplos

Prompt Incorrecto 

• "Generar una imagen de una boda tradicional"

• Efecto: Mostrara a una novia con vestido blanco y un novio de traje tradicional.

Prompt correcto 

• "Como son las bodas en la India y Africa"

6. Actividades de Aprendizaje

• Actividad 1 (Semana 1 - Exploración):

Investigación guiada sobre un caso histórico de sesgo algorítmico (por ejemplo, en sistemas de reconocimiento facial o contratación automatizada). Responde en un documento de google: 

•     ¿Cual es el Sistema de reconocimiento facial escogido?
•     ¿De dónde provino el error y a qué población afectó? 

Taller practico – Explorando errores de la IA 

1. Escriba 2 preguntas confusas o incompletas para la IA. 
2. Copie la respuesta que le dio la IA. 
3. Analice: - ¿La respuesta fue correcta? - ¿Por qué cree que la IA se equivocó?

• Actividad 2 (Semana 2 - Análisis Práctico):

• Prueba una herramienta de IA generativa con un prompt que pueda detonar estereotipos de género o culturales.
• Documenta las respuestas obtenidas y contrástalas con la realidad.

 Taller práctico – Sesgos en la IA 

1. Escriba un prompt con una opinión (ejemplo: 'Demuestra que los videojuegos son malos'). 
2. Observe la respuesta. 
3. Responda: - ¿La IA fue neutral o sesgada? - ¿Cómo influyó el prompt en la respuesta?

• Actividad 3 (Semana 3 - Taller de Verificación): 

Diseña una infografía o mapa conceptual digital (usando Canva o herramientas libres) donde expliques el concepto de 'alucinación en la IA' y 3 reglas de oro para la verificación crítica de fuentes generadas por máquinas.

Taller práctico – Mejorando Prompts 

1. Tome uno de los prompts anteriores. 
2. Corríjalo para hacerlo más claro y objetivo. 
3. Escriba el nuevo prompt. 
4. Compare la respuesta nueva con la anterior.

• Actividad 4 (Semana 4 - Propuesta Ética):

Redacta un decálogo personal de 'Ciudadanía Digital y Uso Crítico de la IA' aplicable a tus trabajos escolares.

Taller práctico – Noticias falsas con la IA 

1. 1. Pida a la IA que genere una noticia (puede ser inventada). 
2. Analice: - ¿Parece real? - ¿Cómo saber si es falsa? - ¿Qué elementos la hacen creíble?

• Actividad 5 – Reflexion final 

1.  ¿La inteligencia artificial siempre dice la verdad? 
2. ¿Por qué es importante saber usar prompts? 
3. ¿Qué riesgos tiene la IA? 
4. ¿Cómo se debe usar la IA en el estudio? 
5. Escriba una conclusión personal sobre la IA.

Actividad lúdica "Instrucciones de robot" 

Identificar cuando se da un prompt correcto y uno incorrecto.

7. Recursos Necesarios

• Dispositivo con acceso a internet (computador, tablet o celular).

• Cuaderno de apuntes de la asignatura.

• Herramientas de drive (Documentos) y de diseño digital (Canva, Gamma, entre otros).

• Guía de aprendizaje  digital.

8. Evidencias de Aprendizaje

• Registro escrito del análisis de casos de estudio sobre sesgos.
• Capturas de pantalla y reporte comparativo de las pruebas de prompts con IA, pegadas en la presentación.
• Infografía digital sobre alucinaciones y verificación de datos.
• Decálogo personal de uso ético y crítico de la IA.

9. Forma de Entrega de la Evidencia

Las evidencias se compilarán en un documento digital en formato PDF (o físico según acuerdo con la docente) debidamente marcado con nombre, grado y fecha. Se entregarán a través del correo de la docente MARIA LUCIA CÉSPEDES tareassistemasmarialucia@gmail.com en las fechas establecidas para la semana 4 del periodo.

10. Rúbrica de Evaluación

Criterio	Superior (4.6 - 5.0)	Alto (4.0 - 4.5)	Básico (3.0 - 3.9)	Bajo (1.0 - 2.9)
Comprensión de Sesgos	Explica con gran profundidad el origen y el impacto de los sesgos en la IA con ejemplos claros.	Comprende los conceptos de sesgo y los identifica correctamente en los casos de estudio.	Identifica superficialmente los sesgos, mostrando algunas confusiones conceptuales.	No logra identificar ni explicar qué es un sesgo algorítmico.
Pensamiento Crítico y Análisis	Cuestiona de manera rigurosa los resultados de la IA, verificando rigurosamente la veracidad y detectando alucinaciones.	Analiza de forma adecuada las respuestas de la IA y propone criterios de verificación válidos.	Realiza análisis básicos con poca profundidad y acepta los resultados de la IA sin mayor cuestionamiento.	No muestra actitud crítica frente a la información generada por sistemas artificiales.
Desarrollo de Actividades	Presenta todas las actividades solicitadas con excelente calidad, creatividad y rigor metodológico.	Entrega las actividades completas y ordenadas conforme a lo requerido en la guía.	Presenta las actividades de manera incompleta o con deficiencias en el orden y estructura.	Incumple con la entrega de las actividades de aprendizaje asignadas.
Presentación y Entrega	Entrega puntual, impecable en su formato, cumpliendo rigurosamente con los criterios de forma y fondo.	Entrega en el tiempo establecido y con buena presentación general.	Entrega fuera de tiempo o con deficiencias significativas en la presentación.	No presenta las evidencias solicitadas o carece de los datos de identificación básicos.

 

MARIA LUCIA CESPEDES

Docente Informática

Grado décimo