Conflicto por el dominio de los algoritmos

Un algoritmo puede ser tan bueno o tan malo como aquel que lo programa

0

Entre la adopción masiva del Internet durante las últimas décadas y la aparición de blockchain y Bitcoin hace diez años, el estado-nación está perdiendo su hegemonía. El modelo estructural naciente, sin embargo, no será bienvenido por todos como una promisoria fase de la historia humana y los resultados que generen estas y otras tecnologías permanecen inciertos.

Muchos menospreciarán las soluciones innovadoras que ofrezcan nuevos sistemas de gobernanza, pues la resistencia al cambio nos caracteriza. De hecho, hace 500 años, los cortesanos habrían dicho que las innovaciones que dieron lugar al Renacimiento y que hicieron posible terminar con el feudalismo eran nocivas.

La neutralidad de los algoritmos

Cathy O’Neil, matemática doctorada en Harvard y en el MIT, sostiene que los algoritmos serán los causantes de la siguiente revolución política. Considera que un algoritmo puede ser tan bueno o tan malo como aquel que lo programa y que estos códigos matemáticos podrían llegar a ser sumamente destructivos si es que se los utiliza para fines perversos.

Los algoritmos siempre funcionan bien para la gente que los diseña, pero no sabemos si funcionan bien para el público objetivo de esos algoritmos. Pueden ser tremendamente injustos para ellos. – Cathy O’Neil

Los algoritmos —en forma de inteligencia artificial y «machine learning»— se alimentan de la información recopilada por el «big data». Este último consiste en una gran maquinaria omnipresente de vigilancia que funciona detrás de los telones de las redes sociales y los buscadores más populares y que, abusivamente, ha invadido la privacidad de las personas con o sin su consentimiento, convirtiéndolas en un producto que genera una jugosa rentabilidad para quienes controlan estos artificios matemáticos.

O’Neil manifiesta que la existencia de estos algoritmos —y los consecuentes sistemas automáticos de decisión con base en puntuación o reputación— no solo son injustos para los individuos sino también para la sociedad. A través de estos, se está buscando trascender el juicio y el prejuicio humano para trasladarlo a las máquinas.

Además, se cree erróneamente que los algoritmos son infalibles, perfectos y objetivos, pero pueden llegar a ser sexistas, racistas, discriminatorios e ilegales. Por ejemplo, se descubrió que Amazon tenía un algoritmo sexista que prefería contratar hombres, en lugar de mujeres, porque este había aprendido ha seleccionar personal a partir de hojas de vida pertenecientes al género masculino. Asimismo, un bot de Microsoft, que actuaba como adolescente para aprender de forma automática desde conversaciones en Twitter, tuvo que ser cancelado porque empezó a lanzar epítetos racistas y pedir sexo a sus seguidores.

¿La próxima revolución política será por el control de los algoritmos?

En un futuro cercano, los algoritmos reemplazarán la mayoría de los procesos burocráticos actuales, porque incrementan la eficiencia y el control de los procesos y reducen costos. De hecho, los gobiernos de varios países ya ejecutan algoritmos para recaudación tributaria y seguridad nacional, dado que estos han fortalecido sus sitemas de control y vigilancia social, al más puro estilo de la novela distópica 1984, escrita por George Orwell en la década de 1940.

La gente piensa que un algoritmo es un método para tratar de llegar a una verdad objetiva. Hemos desarrollado una fe ciega en ellos, porque pensamos que hay una autoridad científica detrás de ellos. – Cathy O’Neil

En su libro, Armas de destrucción matemática, Cathy O’Neil comenta que Obama fue adorado por la izquierda, porque usó algoritmos para aumentar las donaciones y mejorar la segmentación de mensajes políticos. Asimismo, Donald Trump logró suprimir el voto de afroamericanos gracias a la segmentación de mensajes en Facebook.

La revolución industrial 4.0

A pesar de la voluntad política alrededor del mundo por incrementar el dominio social mediante las tecnologías emergentes, las ideas fundamentales detrás de la creación de estas van en contracorriente. Ahora, somos testigos del declive de la Edad Moderna. Algo nuevo está apareciendo y, como hemos visto antes, los gobiernos no pueden ocultar su preocupación.

Más allá del nombre que querramos darle, «posmoderna», «cibersociedad», «sociedad de la información» o «revolución industrial 4.0», en esta nueva etapa humana, la vida política y económica ya no será organizada a gran escala bajo el modelo del estado-nación. James Davidson y William Rees-Mogg, autores del libro The Sovereign Individual: Mastering the Transition to the Information Age, señalan que, en su lugar, veremos el resurgimiento de las ciudades-estado.

La civilización que trajo las guerras mundiales, la línea de ensamblaje, la seguridad social, los bancos centrales, el impuesto a la renta, el desodorante y la tostadora está muriendo lentamente. Estos dos últimos probablemente sobrevivirán, el resto no.

Los mitos cívicos del siglo XX y la sociedad industrial, los cuales presuponen que la planificación centralizada conlleva al desarrollo, también se desvanen poco a poco. La arrogante tecnocracia que está convencida de tener la capacidad para tomar decisiones sabias e infalibles en nombre de millones de voluntades está, hoy más que nunca, en lo incorrecto.

Los problemas de la sociedad no se abordan con soluciones de ingeniería que, una y otra vez, han fallado en proveer los resultados esperados. Ante esto, los emprendedores y los desarrolladores informáticos del sector privado están creando soluciones efectivas para estas necesidades del mercado, al mismo tiempo, suplantan la gestión burocrática. Nada es permanente.

Las fuerzas del mercado, no las mayorías políticas, serán las que reconfiguren a las sociedades. – James Davidson y William Rees-Mogg

El rol de la criptoeconomía

Las transacciones en criptomonedas protegidas por sofisticadas técnicas criptográficas no podrán ser rastreadas ni confiscadas por los cobradores de impuestos. Se espera que una gran parte del comercio y la riqueza se traslade al ciberespacio —donde las amenazas de coacción y violencia estatal virtualmente se desvanecen—, una región donde los gobiernos tendrán cada vez menos control. Es obvio que el estado-nación no permanecerá impávido ante el surgimiento de esta amenaza, por lo que no tardará en tomar medidas desesperadas para controlar a su rebaño que ha ido escapando del corral.

Ante esta pérdida del control sobre el dinero, los gobiernos empezarán a actuar peligrosamente, incluso en los países más civilizados, donde se entiende que hay una institucionalidad respetable. Conforme los impuestos dejan de ser recolectados, se empezará a usar viejas y nuevas artimañas tecnológicas para no dejar escapar los tributos que financian los enormes gastos públicos y las guerras.

Los gobiernos buscarán suprimir la cibereconomía con métodos totalitarios, como la confiscación, secuestro, sabotaje, censura, vigilancia, infiltración, ataques informáticos, violación de los derechos humanos, etc. La utilización de algoritmos con fines orwellianos será un medio principal para implementar dichas acciones coercitivas.

La aparición de “cibermonedas” controladas por algoritmos matemáticos que no tienen jurisdicción, permitirá trasladar la riqueza de los ciudadanos a un entorno donde no está sujeta a la coacción de los gobiernos. Solo los pobres serán víctimas de la inflación y deflación ocasionadas por las monedas fiduciarias. – James Davidson y William Rees-Mogg

Ahora bien, el enfrentamiento entre el dominio de los algoritmos y el cambio de paradigmas de gobernanza todavía no tiene ganador. Por lo tanto, se espera que la liberación de una gran parte de la economía global del poder político obligue a los gobiernos a operar en términos de mercado —tratando a la población como clientes—, en lugar de hacerlo como una banda de crimen organizado que coacciona y amenaza a sus víctimas para conseguir sus fines. Es posible que los estados-nación se vean obligados a modificar radicalmente sus roles, si es que quieren sobrevivir a la próxima revolución política.

El autor de ficción Neal Stephenson imaginó con certeza que el Internet hará posible el surgimiento del «metaverso», un mundo alternativo que existe en el ciberespacio con sus propias leyes que trascienden las jurisdicciones territoriales. Se espera que, conforme la criptoeconomía aumente su riqueza —gracias a la aparición del Internet del valor—, sus participantes logren escapar de las leyes anacrónicas del estado-nación. Múltiples sistemas legales coexistirán, de forma similar que en la época medieval.

¿Te gustó el artículo? ¡Puedes apoyar a Juan F. Bolaños en Patreon!

Deje un Comentario

Su correo electrónico no será publicado.