¿Qué es el sesgo algorítmico?

13 de Agosto de 2018

Un chatbot de Inteligencia Artificial llamado Tay fue publicado en 2016 por Microsoft, el experimento suponía que la IA imitaba el comportamiento de una adolescente curiosa y entablaba discusiones inteligentes con los usuarios de Twitter, pero en 24 horas Tay se convirtió en una racista, misógina y negacionista del holocausto, teniendo que ser inhabilitado y dejando expuestos los problemas de la IA y la falta de neutralidad en sus algoritmos.

Tay mostró como el fenómeno, conocido como “sesgo algorítmico”, donde la  la IA podría manifestar los mismos prejuicios que los humanos.

Dos ramas de la IA aprendizaje automático y el aprendizaje profundo, son la razón por la cual un programa puede volverse parcial, ya que los algoritmos dependen de los datos, la tecnología desarrolla puntos ciegos en los aspectos donde recibe muy pocos datos sobre algo o gran cantidad de datos durante su entrenamiento.

Es decir, que el funcionamiento de los algoritmos depende esencialmente de los datos con los que son alimentados, y si estos datos contienen «sesgo», el resultado sera que la IA desarrollara respuestas con ese «sesgo».

Esto es de especial cuidado, ya que la tecnología de la IA abarca cada vez más áreas incluyendo sistemas de justicia, y una incorrecta alimentación de datos, puede tener como consecuencia la afección de derechos por parte de la tecnología.

En esencia es necesario comprender que los algoritmos no son racistas, xenófobos o con algún otro sesgo, pero los humanos sí, por lo tanto se debe de abordar cuidadosamente el proceso de depuración de datos con los que serán alimentados las IA, para evitar que imiten y maximicen esos aspectos humanos negativos de una forma sistemática.

Usuarios Digitales tomó el texto original de Partido Piratahttps://www.partidopirata.cl/que-es-el-sesgo-algoritmico/#more-14067

Comparte:

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *