Sesgos en Inteligencia Artificial: orígenes, motivos y algunas posibles soluciones

Crear algoritmos que detecten sesgos o decidir qué actores son responsables de definir la imparcialidad de una IA son abordajes del problema

De acuerdo con un artículo publicado por el MIT Technology Review, la explicación del origen de los sesgospropios de la Inteligencia Artificial (IA) suele limitarse a datos de entrenamiento sesgados; sin embargo, este problema puede aparecer incluso mucho antes de la recopilación de datos, así como en otras etapas del proceso de aprendizaje profundo, entre las cuales es posible detectar al menos tres que resultan clave. ¿Cuáles son los orígenes, motivos y posibles soluciones de este fenómeno?

Etapas clave para la introducción de sesgos en una IA son:

- Delimitación de alcance y objetivosde una Inteligencia Artificial es un primera etapa clave en la eventual aparición de sesgos, pues imparcialidado discernimiento suelen perder peso ante razones netamente comerciales; esto puede derivar en comportamientos ajenos a las metas iniciales.

- La recolección de datos también juega un rol en los sesgos de IA porque los datos de entrenamiento podrían no ser representativos de la realidad o, por otro lado, podrían reflejar prejuiciosexistentes.

- En la preparación de los datos yace otro momento crítico, al seleccionar qué atributos se desea que el algoritmoconsidere.

¿Por qué es tan difícil arreglar los sesgos de la IA? La científica de datos Karen Hao plantea cuatro principales motivos:

- Imprevistos(aquello que no se sabe que no se sabe). La introducción de un sesgo no siempre es obvia durante la construcción de un modelo, a veces los programadores no se dan cuenta de los impactos posteriores de ciertos datos y elecciones sino hasta mucho más tarde.

- Procesos imperfectos. La detección de sesgos no es parte del diseño de muchas de las prácticas estándar en el aprendizaje profundo; en la práctica, los datos usados para probar el rendimiento de un modelo tienen los mismos sesgos que los datos usados en el entrenamiento.

- Falta de contexto social. La denominada "trampa de la portabilidad" consiste en aplicar un mismo paradigma en diferentes contextos aun cuando sus parámetros no necesariamente sean aplicable de la misma manera en esos contextos diferentes.

- Definiciones de imparcialidad. Así en informática como en humanidades, definir en qué consiste o cómo debería ser la ausencia de sesgos es un tema a debate. En IA, el concepto debe definirse en términos matemáticos, pero hay muchas definiciones matemáticas diferentes de imparcialidad que se excluyen mutuamente.

Tales con los orígenes y motivos detrás de lossesgos en Inteligencia Artificial, mas ¿se trabaja ya en posibles soluciones? Sí, investigadores especializados en IA han abordado el problema desde diferentes enfoques. Dos ejemplos de lo anterior son: algoritmosque ayudan a detectar y mitigar sesgos ocultosdentro de los datos de entrenamiento o mitigan los sesgos aprendidos por el modelo independientemente de la calidad de los datos; procesos que hacen a las empresas responsables de decidir cuál es la mejor definición de imparcialidad.

TecnologíaInteligencia ArtificialCiencia