Las 50 puertas de la democracia algorítmica: cómo serían las plataformas tipo Uber y tipo Amazon si la tecnología sirviera al bien común

¿Alguna vez has abierto una aplicación de movilidad y sentido que el precio no tenía lógica? ¿Has visto cómo la tarifa se dispara porque "hay mucha demanda" en Didi, Cabify o Uber? ¿O has escuchado a un repartidor de Rappi o PedidosYa quejarse de que lo penalizaron sin saber por qué? Detrás de esa experiencia cotidiana se esconde un fenómeno más profundo: la hegemonía algorítmica. No es una conspiración, sino una forma de poder real que ejercen unos pocos sistemas de software: deciden unilateralmente precios, asignaciones, evaluaciones y castigos, todo ello sin transparencia, sin apelación efectiva y sin control democrático. Lo mismo ocurre con las grandes plataformas de comercio electrónico y logística: Mercado Libre, Amazon o AliExpress deciden con sus algoritmos qué productos ves, qué precio te ofrecen, cómo evalúan a los vendedores y qué condiciones imponen a los trabajadores de sus almacenes.

Ya he analizado en otro artículo los mecanismos de esta hegemonía (miedo, odio, distracción, modelado conductual). Aquí quiero dar un paso más allá: ¿cómo podríamos construir una alternativa? ¿Qué estándares deberían cumplir estas plataformas para ser verdaderamente democráticas?

Una respuesta prometedora es el estándar de las 50 puertas propuesto por Christopher Hunt Robertson. Se trata de 50 condiciones binarias (sí/no) que cualquier sistema de inteligencia artificial debería satisfacer para ser considerado admisible en una democracia. Entre ellas: que la IA sea meramente informativa (es decir, que no tome decisiones por sí sola, sino que solo ofrezca datos o sugerencias), que sus reglas sean públicas, que todas sus decisiones queden registradas en un libro accesible, que los funcionarios humanos sigan siendo los responsables últimos y que el sistema pueda ser desmantelado sin generar dependencia irreversible. Las 50 puertas no son una lista de buenas intenciones; son una tecnología de rechazo: si un sistema falla una sola puerta, es inadmisible.

Aplicar este estándar al mundo de las plataformas de movilidad y comercio electrónico nos permite imaginar cómo sería ese sector si la tecnología estuviera realmente al servicio del bien común.

Las plataformas tipo Uber hoy: el algoritmo como juez invisible

En la actualidad, empresas como Uber, Didi, Cabify, Beat, o las de reparto como Rappi, Glovo o PedidosYa, son mucho más que aplicaciones que conectan oferta y demanda. Son algoritmos de mediación que:

Fijan tarifas dinámicas según criterios secretos.

Fijan tarifas dinámicas según criterios secretos.

Asignan viajes o pedidos de forma opaca.

Asignan viajes o pedidos de forma opaca.

Evalúan a conductores, repartidores y usuarios mediante calificaciones mutuas que pueden usarse para penalizar.

Evalúan a conductores, repartidores y usuarios mediante calificaciones mutuas que pueden usarse para penalizar.

Retienen comisiones considerables sin justificación transparente.

Retienen comisiones considerables sin justificación transparente.

Las consecuencias son conocidas: conductores y repartidores precarizados (falsos autónomos, sin derechos laborales), usuarios sometidos a precios abusivos en horas punta, y empresas que acumulan poder sin rendir cuentas a la ciudadanía. Pero lo más relevante es la opacidad y la delegación. Un repartidor no sabe por qué le ha tocado un pedido mal pagado; no puede apelar una penalización; el algoritmo decide y no hay humano a quien reclamar.

Las plataformas tipo Amazon hoy: el mercado invisible

Empresas como Amazon, Mercado Libre, AliExpress o Linio también operan bajo una lógica algorítmica opaca. Sus sistemas:

Deciden qué productos mostrar y en qué orden, según criterios secretos (que suelen incluir cuánto paga el vendedor en publicidad).

Deciden qué productos mostrar y en qué orden, según criterios secretos (que suelen incluir cuánto paga el vendedor en publicidad).

Fijan precios dinámicos o recomiendan ofertas de forma no transparente.

Fijan precios dinámicos o recomiendan ofertas de forma no transparente.

Evalúan a vendedores externos con métricas que pueden llevar a suspensiones sin explicación.

Evalúan a vendedores externos con métricas que pueden llevar a suspensiones sin explicación.

En sus centros logísticos, los trabajadores son monitorizados y evaluados por algoritmos que determinan ritmos de trabajo, penalizan pausas y pueden despedir automáticamente.

En sus centros logísticos, los trabajadores son monitorizados y evaluados por algoritmos que determinan ritmos de trabajo, penalizan pausas y pueden........

© Aporrea