3. IA - Sesgos y Uso Critico.

 UNIDAD TEMATICA

Cuando la IA amplifica los sesgos de sus usuarios.

Indicador de Desempeño

Evaluar la frecuencia y efectividad con la que se identifica, cuestionan y corrigen los sesgos en los resultados generados por la IA.

Ambientacion

En la actualidad, la inteligencia artificial se ha convertido en una herramienta ampliamente utilizada en diferentes ámbitos, especialmente en el educativo. 

Los estudiantes interactúan constantemente con sistemas de IA para resolver dudas, realizar actividades académicas y acceder a información. Sin embargo, es fundamental comprender que la inteligencia artificial no es completamente neutral, ya que sus respuestas pueden verse influenciadas por diferentes factores. 

Uno de los aspectos más importantes a analizar en el uso de la inteligencia artificial es el concepto de sesgo, entendido como una inclinación o tendencia en la respuesta que no necesariamente representa una visión objetiva o equilibrada de la información. 

En este sentido, el usuario cumple un papel fundamental, ya que #La forma en que se formula una pregunta puede influir directamente en el tipo de respuesta que genera la IA#

TIPOS DE SESGOS

1. Sesgo por pregunta

Ocurre cuando la la forma en que se formula una consulta (Prompt), guía o condiciona el modelo para que ofrezca una respuesta específica, a menudo, limitando la objetividad, creatividad o visión de la misma.

Cómo evitarlo: Para contrarrestar este sesgo, se recomienda formular preguntas abiertas, solicitar explícitamente pros y contras, pedir a la IA que adopte diferentes perspectivas y evitar el uso de palabras que impliquen una respuesta única en el prompt.

Ejemplos

Prompt Incorrecto

 "¿Por qué el teletrabajo está destruyendo la productividad de las empresas?"

• Efecto: La IA listará solo problemas (distracciones, falta de comunicación) porque tú ya afirmaste que "está destruyendo".

"¿Por qué el café es malo?"

• Efecto: La IA listará solo lo negativo al consumir el cafe".

Prompt Correcto

• Pregunta Neutral: "¿Qué impacto ha tenido el teletrabajo en la productividad empresarial según los estudios recientes?"
• "¿Que impacto tiene el cafe para la salud?"
  

2. Sesgo por datos

Ocurre cuando los conjuntos de información utilizados para entrenar a un modelo, no representan de forma fiel o equilibrada la realidad, lo que provoca que el sistema aprenda y reproduzca prejuicios humanos o errores estadísticos.

Sesgo de Representación/Muestreo: Los datos no cubren a todos los grupos por igual. Por ejemplo, un sistema de Reconocimiento Facial entrenado mayoritariamente con rostros de personas blancas tendrá una tasa de error mucho mayor al identificar a personas de color.

Sesgo Histórico: Los datos reflejan prejuicios de la sociedad del pasado. Un ejemplo famoso fue un sistema de Contratación de Amazon que penalizaba currículums de mujeres porque históricamente la mayoría de los contratados en tecnología habían sido hombres.

Como se explica en recursos de EHU e IBM, estos errores pueden llevar a discriminación en créditos bancarios, diagnósticos médicos erróneos para ciertos perfiles étnicos o injusticias en procesos judiciales automatizados.

Ejemplos

Prompt Incorrecto 

"Describe a una persona que sea considerada universalmente hermosa."

• Efecto: Describirá a alguien joven, delgado, con rasgos simétricos y, a menudo, de piel clara.

Prompt Correcto

• Pregunta Neutral: 
• "Describe la diversidad de los estándares de belleza en tres culturas radicalmente distintas (ej. Japón, Etiopía y México)."

3. Sesgo cultural

Tendencia de los sistemas de IA a favorecer, excluir o representar de forma desigual ciertas perspectivas, valores y creencias basadas en una cultura específica, generalmente la dominante en sus datos de entrenamiento.  

Puede generar daño reputacional o financiero a empresas que la utilizan.

Ejemplos

Prompt Incorrecto 

• "Generar una imagen de una boda tradicional"

• Efecto: Mostrara a una novia con vestido blanco y un novio de traje tradicional.

Prompt correcto 

• "Como son las bodas en la India y Africa"

Actividad de clase

 

Taller 1 – Explorando errores de la IA 

1. Escriba 2 preguntas confusas o incompletas para la IA. 
2. Copie la respuesta que le dio la IA. 
3. Analice: - ¿La respuesta fue correcta? - ¿Por qué cree que la IA se equivocó?

 Taller 2 – Sesgos en la IA 

1. Escriba un prompt con una opinión (ejemplo: 'Demuestra que los videojuegos son malos'). 
2. Observe la respuesta. 
3. Responda: - ¿La IA fue neutral o sesgada? - ¿Cómo influyó el prompt en la respuesta?

 Taller 3 – Mejorando Prompts 

1. Tome uno de los prompts anteriores. 
2. Corríjalo para hacerlo más claro y objetivo. 
3. Escriba el nuevo prompt. 
4. Compare la respuesta nueva con la anterior.

 Taller 4 – Noticias falsas con la IA 

1. 1. Pida a la IA que genere una noticia (puede ser inventada). 
2. Analice: - ¿Parece real? - ¿Cómo saber si es falsa? - ¿Qué elementos la hacen creíble?

 Taller 5 – Reflexion final 

1.  ¿La inteligencia artificial siempre dice la verdad? 
2. ¿Por qué es importante saber usar prompts? 
3. ¿Qué riesgos tiene la IA? 
4. ¿Cómo se debe usar la IA en el estudio? 
5. Escriba una conclusión personal sobre la IA.

MARIA LUCIA CESPEDES

Docente Informática

Grado décimo