Subscribe Us

LIBROS. Cómo la inteligencia artificial está dando forma a la sociedad.

 

Un hombre separa el mineral de estaño de la arena en Indonesia. Muchos de los metales necesarios para los semiconductores se extraen con un gran coste humano y medioambiental. Fuente: Beawiharta / Reuters

Dos libros ofrecen información complementaria sobre cómo la inteligencia artificial está dando forma a la sociedad.

El problema de la alineación: aprendizaje automático y valores humanos Brian Christian WW Norton (2020)

Atlas de IA: poder, política y costos planetarios de la inteligencia artificial Kate Crawford Yale Univ. Prensa (2021)

La inteligencia artificial (IA) impregna nuestras vidas. Determina lo que leemos y compramos, si conseguimos un trabajo, préstamo, hipoteca, subsidios o libertad condicional. Diagnostica enfermedades y subyace, y socava, los procesos democráticos. Dos nuevos libros ofrecen visiones complementarias de cómo la sociedad está siendo remodelada por quienes construyen, utilizan y gestionan la IA.

En The Alignment Problem , el escritor Brian Christian ofrece una visión íntima de las personas que fabrican la tecnología de IA: sus objetivos, expectativas, esperanzas, desafíos y desolaciones. Comenzando con el trabajo de Walter Pitts sobre una representación lógica de la actividad neuronal a principios del siglo XX, relata las ideas, objetivos, éxitos y fracasos de investigadores y profesionales en campos que van desde la ciencia cognitiva hasta la ingeniería. Atlas of AI , de la influyente académica Kate Crawford, trata sobre cómo, prácticamente, la IA entra y se desarrolla en nuestras vidas. Muestra que la IA es una industria extractiva que explota los recursos, desde los materiales hasta la mano de obra y la información.

Ambos libros analizan cómo el poder del mundo digital está cambiando la política y las relaciones sociales. Asienten con enfoques alternativos a estos desequilibrios (el control estatal en China o los esfuerzos regulatorios de la Unión Europea), pero se centran en la historia de América del Norte. Juntos, piden una guía: el camino a seguir.

Detrás de la escena de la economía de los macrodatos: un centro logístico de Amazon en Nueva Jersey. Fuente: Bess Adler / Bloomberg / Getty

Como comenta la investigadora de IA Joy Buolamwini en el documental de 2020 Coded Bias , la toma de decisiones algorítmica está deshaciendo décadas de progreso hacia la igualdad de derechos, reificando los mismos prejuicios que revela que aún están profundamente arraigados. ¿Por qué? Porque el uso de datos para informar decisiones automatizadas a menudo ignora los contextos, las emociones y las relaciones que son fundamentales para las elecciones humanas.

Los datos no son materias primas. Siempre se refieren al pasado y reflejan las creencias, prácticas y prejuicios de quienes los crean y recopilan. Sin embargo, la aplicación actual de la toma de decisiones automatizada se basa más en la eficiencia y los beneficios económicos que en sus efectos en las personas.

Peor aún, la mayoría de los enfoques de la inteligencia artificial empoderan a quienes tienen los datos y la capacidad computacional para procesarlos y administrarlosCada vez más, se trata de grandes corporaciones tecnológicas: entidades privadas fuera de los procesos democráticos y el control participativo. Los gobiernos y los individuos son los usuarios, no los líderes. Las consecuencias de este cambio son enormes y tienen el potencial de alterar la sociedad.

¿Y ahora qué? Además de los esfuerzos para debiasar los datos y explicar las decisiones que toman los algoritmos, debemos abordar la fuente del sesgo. Esto no se hará mediante arreglos tecnológicos, sino mediante la educación y el cambio social. Al mismo tiempo, se necesita investigación para abordar la dependencia perversa del campo de las correlaciones en los datos. La IA actual identifica patrones, no significados.

Meticulosamente investigados y magníficamente escritos, estos libros en última instancia son un espejo. Demuestran que el desarrollo y el uso responsable (ético, legal y beneficioso) de la IA no se trata de tecnología. Se trata de nosotros: cómo queremos que sea nuestro mundo; cómo damos prioridad a los derechos humanos y los principios éticos; que comprende este "nosotros". Esta discusión no puede esperar más. Pero la pregunta clave es: ¿cómo pueden todos tener voz?


Publicar un comentario

0 Comentarios