La semana pasada hablábamos en nuestra Newsletter de Chat GPT, un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial GPT-3, desarrollado por la empresa OpenAI. La llegada de esta nueva herramienta ha reactivado un viejo debate sobre la IA y su posible racismo, machismo o sexismo.
La Inteligencia Artificial ha venido para quedarse y su impacto en nuestras historias puede que no tenga precedentes, por lo que debemos ir planteando este tipo de debates antes de que sea demasiado tarde.
“La política del gobierno está siendo cada vez más ineficaz a la hora de desarrollar soluciones a gran escala que aborden los problemas de sesgo y discriminación racial en los algoritmos.” Según el Public Citizen
Esta afirmación puede suponer un problema cuando sabemos que las empresas y los gobiernos han aumentado su dependencia de los algoritmos para tomar decisiones. Su utilización está cada vez más excedida entre las naciones para identificar perfiles potencialmente criminales o para guiar decisiones médicas que afectan a millones de personas.
Tenemos la idea de que hay pocas cosas en este mundo más confiables, más neutrales y menos “sesgadas” que un buen algoritmo. Pero esta afirmación puede ser errónea. Un estudio de Harvard y Georgetown demuestra que los algoritmos que utilizamos pueden resultar discriminatorios ante una raza, género o grupo social. Los grupos históricamente desfavorecidos, como las mujeres y las personas de raza negra, sufren más los efectos de los sesgos algorítmicos.
Los investigadores indagaron en el verdadero motivo de este fenómeno, hasta percatarse de que los algoritmos aprendían de las desigualdades que existían en nuestro entorno y se adaptaban a ellas. Los algoritmos pueden reflejar y perpetuar la discriminación y el prejuicio existentes en la sociedad y en los datos que se usan para entrenarlos. Si los datos empleados para entrenar a un algoritmo están sesgados o tienen prejuicios, es posible que el algoritmo también tenga sesgos o prejuicios incorporados.
Entonces, ¿el problema está en los algoritmos o en los datos que nutren al algoritmo?, te dejamos esta inquietud para que lo reflexiones y lo compartas en los comentarios de este post.
36 comments
Can you be more specific about the content of your article? After reading it, I still have some doubts. Hope you can help me.
I don’t think the title of your article matches the content lol. Just kidding, mainly because I had some doubts after reading the article.
Thanks for sharing. I read many of your blog posts, cool, your blog is very good.
Thanks for sharing. I read many of your blog posts, cool, your blog is very good.
Your point of view caught my eye and was very interesting. Thanks. I have a question for you.
Wow, superb weblog layout! How lengthy have you ever been blogging for?
you made running a blog look easy. The entire glance of your website is wonderful, let alone the content material!
You can see similar here e-commerce
Your point of view caught my eye and was very interesting. Thanks. I have a question for you.
Thanks for sharing. I read many of your blog posts, cool, your blog is very good. https://www.binance.com/el/join?ref=P9L9FQKY
I don’t think the title of your article matches the content lol. Just kidding, mainly because I had some doubts after reading the article. https://www.binance.info/cs/join?ref=GJY4VW8W
Your article helped me a lot, is there any more related content? Thanks! https://www.binance.info/pt-BR/join?ref=T7KCZASX
Can you be more specific about the content of your article? After reading it, I still have some doubts. Hope you can help me. https://www.binance.info/zh-CN/join?ref=OMM3XK51
Your article helped me a lot, is there any more related content? Thanks! https://www.binance.com/en/register?ref=S5H7X3LP
Thank you for your sharing. I am worried that I lack creative ideas. It is your article that makes me full of hope. Thank you. But, I have a question, can you help me? https://www.binance.info/ar-BH/join?ref=V3MG69RO
Thank you for your sharing. I am worried that I lack creative ideas. It is your article that makes me full of hope. Thank you. But, I have a question, can you help me? https://www.binance.info/zh-TC/join?ref=YY80CKRN
Thank you for your sharing. I am worried that I lack creative ideas. It is your article that makes me full of hope. Thank you. But, I have a question, can you help me? https://www.binance.com/it/register?ref=IJFGOAID
Thank you for your sharing. I am worried that I lack creative ideas. It is your article that makes me full of hope. Thank you. But, I have a question, can you help me? https://accounts.binance.com/bg/register?ref=P9L9FQKY