Los humanos venimos “de fábrica” con sesgos cognitivos que hacen que muchas veces nuestras decisiones no sean correctas y se vean afectadas por prejuicios y errores de todo tipo. Parecía que el uso de algoritmos de Inteligencia Artificial y Machine Learning (ML) iba a permitir tomas de decisiones más objetivas y sin errores, pero se ha visto que eso no es así del todo. El Machine Learning aplicado no está libre de sesgos y dilemas éticos. Por ejemplo, usando estos algoritmos, un banco podría usar el sexo o la etnia para conceder o no un préstamo y una compañía de seguros nos podría denegar una póliza en función de nuestro estado de salud previo.

Teniendo en cuenta que las estrategias de ML se utilizan cada vez más en contextos que afectan a los ciudadanos, tanto las empresas como el público en general deben estar seguros de que la aplicación de estos métodos no tendrá implicaciones sociales inesperadas, como el sesgo hacia el género, la etnia y/o las personas con discapacidades. Estas nuevas preocupaciones han generado la necesidad de nuevos enfoques que permitan mejorar la interpretabilidad y medir la “justicia” con la que se toman las decisiones de los algoritmos de ML.  

Mediante ejemplos sencillos y atractivos, veremos qué es el Machine Learning, qué posibles sesgos pueden aparecer en su aplicación y qué soluciones posibles se están planteando, logrando mayor transparencia y explicabilidad en las decisiones.