Atlas de la IA

Poder, Política y los Costos Planetarios de la Inteligencia Artificial

por Kate Crawford

"Atlas de la IA" (2021) revela cómo la IA depende de la extracción de recursos, trabajo y datos. El libro presenta la IA como un sistema global que está impulsando a la sociedad hacia un poder político centralizado y una gobernanza antidemocrática.

Sobre la autora

Kate Crawford es una autora e investigadora destacada que se centra en el impacto social de la IA. Ha ocupado puestos académicos y de investigación en la Escuela Annenberg de USC, Microsoft Research y la École Normale Supérieure.

Descubriendo los Costos Ocultos de la Inteligencia Artificial

Imagina una vasta red de minas, fábricas y centros de datos que se extiende desde el desierto de Nevada hasta las montañas de Mongolia Interior. Este es el núcleo oculto de la inteligencia artificial, un sistema tecnológico impulsado por la extracción de minerales, datos y trabajo humano.

En este resumen, examinamos críticamente los costos reales e implicaciones éticas del auge de la IA. Al mapear la intrincada red detrás del desarrollo de la IA, exponemos las realidades materiales a menudo ignoradas de esta tecnología aparentemente intangible.

¿Hype Artificial?

¿Qué tiene que ver un caballo alemán con la inteligencia artificial? Hablemos de Clever Hans.

A finales del siglo XIX, este caballo Orlov Trotter fascinó a las multitudes en toda Europa con su aparente inteligencia. Clever Hans podía decir la hora, identificar fechas, distinguir tonos musicales e incluso resolver problemas matemáticos tocando con su pezuña. O al menos eso creían las personas.

La realidad de las habilidades de Clever Hans fue revelada por el psicólogo Oskar Pfungst. Descubrió que Hans no estaba resolviendo problemas realmente, sino que respondía a señales sutiles e involuntarias de sus entrenadores. Estas señales, como cambios en la postura, la respiración y las expresiones faciales, indicaban inconscientemente a Hans cuándo tenía la respuesta correcta. Este fenómeno, conocido como el efecto del expectador u observador o efecto Clever Hans, muestra lo fácilmente que los sesgos pueden distorsionar los resultados y llevar a conclusiones incorrectas.

La historia de Clever Hans es una advertencia sobre los riesgos de atribuir rasgos humanos a entidades no humanas y la importancia de reconocer nuestros propios sesgos.

Los entusiastas de la IA creen que las máquinas pueden replicar la inteligencia humana. Sin embargo, la autora sostiene que esta es una suposición equivocada. Los sistemas de IA no poseen la capacidad de razonamiento independiente o comprensión. En cambio, dependen de un extenso entrenamiento con grandes conjuntos de datos y siguen reglas predefinidas para ejecutar tareas específicas. Sus resultados están influenciados por los sesgos e intenciones de sus creadores humanos.

Además, carecen de la comprensión contextual, flexibilidad y adaptabilidad que caracterizan a la inteligencia humana.