¿Qué problema implica utilizar datos sesgados en un sistema de IA?
Respuestas a la pregunta
Respuesta:
Noticias de programación para programadores ocupados #11: 3ª semana de Marzo de 2021 | Noticias de programación para programadores ocupados #10: 2ª semana de Marzo de 2021
Qué peligro implican los sesgos en los modelos de inteligencia artificial
Por Francisco Charte
Una carrera con futuro a punto de explotar: súbete al Machine Learning con nosotros
Imagen ornamental, una estatua de la Justicia sosteniendo una balanza, a partir de una foto de Tingey Injury Law Firm, CC0
Hace unos años, al hablar de modelos de inteligencia artificial (IA), prácticamente se asumía que nos ceñíamos a unos contextos muy concretos y exclusivos: grandes empresas tecnológicas, centros de investigación en la materia y entornos similares. Esta situación ha cambiado drásticamente a día de hoy.
En la actualidad esos modelos de IA están en nuestro teléfono móvil, la smart TV de nuestro salón o el asistente digital de turno, hablando exclusivamente de dispositivos físicos. También están integrados en nuestro software de correo, en las redes sociales y muchos de los servicios telemáticos que usamos a diario. Fuera del ámbito personal, si no nos restringimos y abrimos el abanico a entornos empresariales e institucionales, los procesos en los que se recurre a modelos generados por algoritmos de aprendizaje automático son incontables.
La interacción entre la vida cotidiana de las personas y los citados modelos de IA es tan frecuente, y afecta a tantos niveles de la actividad humana, que su honestidad y ecuanimidad resultan esenciales. Pero, ¿no son todas las aplicaciones de ordenador justas y actúan de manera "ciega", guiadas solo por los datos? Ciertamente, así es como deberían ser, pero no siempre su comportamiento se acerca a ese ideal.
Explicación: