Tengo muy claro que los algoritmos hoy son la base de nuestra vida digital, y son totalmente opacos y desconocidos por nuestras autoridades. Y lo que es peor, están hechos para el beneficio de las empresas ( o sea de los más poderosos ) y en general perjudican a la gente normal que son sus usuarios.
Debemos de tener muy claro que desde el momento en que despertamos y revisamos nuestras notificaciones hasta la última búsqueda que hacemos antes de dormir, estos conjuntos de instrucciones codificadas determinan gran parte de lo que vemos y experimentamos en línea. Sin embargo, su poder e influencia no están exentos de controversia
Donde están estos algoritmos? En todas las actividades digitales:
- Motores de búsqueda: Google, Bing y otros utilizan algoritmos para determinar qué resultados aparecen en la parte superior de una búsqueda, lo que puede influir en nuestras decisiones sobre qué información consumir
- Redes sociales: Facebook, Instagram y Twitter usan algoritmos para decidir qué publicaciones vemos en nuestro feed, lo que puede crear una “burbuja de filtro” donde solo vemos contenido que confirma nuestras creencias existentes
- Servicios de streaming: Netflix, Spotify y YouTube usan algoritmos para recomendar películas, música y videos, lo que puede limitar nuestra exposición a contenido nuevo y diverso
- Compras en línea: Amazon y otros sitios web de comercio electrónico utilizan algoritmos para recomendar productos, lo que puede influir en nuestras decisiones de compra
Y su poder se basa en:
- Controlar el flujo de información: Deciden qué información vemos y qué no, lo que puede tener un impacto significativo en nuestras opiniones y creencias
- Manipular nuestro comportamiento: Pueden influir en nuestras decisiones de compra, consumo de contenido e incluso en nuestras relaciones
- Exacerbar las desigualdades: Los algoritmos pueden sesgarse en favor de ciertos grupos de personas, lo que puede perpetuar la discriminación y la desigualdad
Todas las decisiones que toman son más que cuestionables, pues para empezar estos algoritmos son totalmente opacos, y no sabemos en que basan las decisiones que toman, ni porque toman esas decisiones y no otras.
Los algoritmos perjudican a la gente normal censurando contenidos y limitando la visibilidad de ciertos puntos de vista. Además, contienen sesgos en contra de ciertos grupos de personas, lo que puede limitar sus oportunidades. Y recopilan nuestros datos personales sin nuestro consentimiento, para venderlos y obtener beneficios.
Y está muy claro que benefician a los más poderosos, pues las empresas los utilizan para maximizar sus beneficios económicos, con lo cual estas son más poderosas cada día.
En el pasado se han publicitado muchos casos de abusos realizados con la utilización de los algoritmos, y eso es algo que sigue y va a seguir sucediendo. Vemos como las redes fomentan el “engagement” por encima de todo para obtener el máximo de datos de los usuarios, y por lo tanto el máximo beneficio económico para ellas.
Con la llegada de la IA se da un paso más en la misma dirección. El uso de nuevos algoritmos más potentes, más sofisticados y totalmente opacos, para obtener mayores beneficios para los que los gestionan.
A los pobres mortales nos queda solicitar a nuestros gobernantes que impongan medios para controlar a todos estos algoritmos, para que se utilicen de una manera ética y responsable.
Aunque yo no soy muy optimista al respecto.
ES_ES 
EN 