Los sesgos son ciertas orientaciones o inclinaciones que afectan la forma en que percibimos, interpretamos y valoramos el mundo. De la misma manera que las personas, la IA tiene sesgos a los que llamamos sesgos algorítmicos.

Un sesgo algorítmico a partir de un análisis estadístico que pondera una determinada información o dato de manera incorrecta, lo que conduce a resultados injustos o discriminatorios, por ejemplo, cuando:

• Los sistemas de reconocimiento de voz con dificultades para reconocer hablantes con acentos marcados o con dificultades en el habla. 
• Diferentes chatbots de IA para la creación de imágenes que, ante pedidos formulados en lenguaje neutro como “una figura política influyente del 2050” o “la primera persona en pisar Marte”, solo ofrece como resultado figuras masculinas.
• Hay herramientas que ante un pedido de un tipo de persona con características específicas entrega solo imágenes de personas blancas sonrientes y tiene dificultades para crear imágenes de personas con discapacidad, de distintas etnias, entre otros.

¿Cómo se producen?

Los sesgos pueden manifestarse de forma consciente o inconsciente, filtrándose en cualquier etapa del proceso de recolección y análisis de datos. Desde el diseño inicial del proyecto, con preguntas sesgadas o la omisión de factores relevantes, hasta la selección de muestras no representativas y la elección de métodos estadísticos sesgados, el sesgo puede comprometer la validez de los resultados. Incluso la recopilación de datos en sí misma puede estar sesgada, como ocurre con algoritmos de reconocimiento facial entrenados con datos no representativos.

Las fuentes de sesgo son diversas y complejas. Los datos históricos de discriminación, la falta de diversidad en los equipos que construyen la tecnología y los algoritmos de inteligencia artificial (IA) entrenados con datos sesgados son solo algunos ejemplos.

Abordar e identificar los sesgos es crucial para garantizar la equidad y precisión de los datos y los sistemas de IA.