Emily M. Bender, lingüista, y Alex Hanna, socióloga, informática y matemática, proponen una reflexión rompedora sobre la inteligencia artificial, su historia, su concepto, su alcance y su repercusión real sobre nuestras vidas. Si releemos el título del libro que han escrito, podemos sospechar que no tienen una buena opinión acerca de lo que se suele denominar inteligencia artificial. Estas dos mujeres no son unas recién llegadas al mundo de las tecnologías. De hecho, se han curtido profesionalmente en empresas tan potentes como Google. Alex Hanna salió de allí en solidaridad con la que entonces era su jefa: Timnit Gebru, responsable de la división de ética de la multinacional norteamericana. Fue despedida por firmar, junto a Álex Hanna, un artículo en el que explicaban que los algoritmos utilizados en las diferentes herramientas tecnológicas vinculadas a la IA tenían un sesgo manifiesto, que penalizaba a los colectivos sociales más desfavorecidos.
Bender y Hanna parten de algunas ideas-fuerza que desarrollan a lo largo de su libro:
- La IA no existe. Es un producto de marketing. En realidad, cuando hablamos de IA, nos estamos refiriendo a una serie de herramientas pensadas para el lucro de un puñado de avispados inversores. Estas herramientas se limitan a llevar a cabo diversos procesos de automatización:
- Automatización de toma de decisiones: concesión de créditos, valoración de currículos en selecciones de personal, determinación de personas beneficiarias de prestaciones sociales, …
- Clasificación de personas: creación de perfiles para envío de publicidad específica, etc.
- Recomendaciones a personas y grupos determinados de consumidores en función de sus prácticas cotidianas.
- Transcripción y traducción de textos
- Generación de textos e imágenes.
- El peligro de la IA no está en su capacidad para dominar a la humanidad o incluso acabar con ella. El peligro de la IA, que ya se está manifestando en el día a día, es el daño que hace a las personas vulnerables que trabajan para ella y a las personas que se ganan su vida con profesiones que van a desaparecer o se van a convertir en empleos precarios. ¿Quiénes son estas personas?
- Todas las personas que trabajan en la trastienda de estas tecnologías: generalmente, empleados y empleadas responsables de alimentar y entrenar a los distintos modelos. En ese entrenamiento está incluido el visionado de miles de horas de publicaciones en red que deben ser etiquetadas como aceptables o inaceptables: violencia, odio, amenazas, … Estos empleados dedican buena parte de su vida laboral a soportar imágenes dantescas, escandalosas, aterradoras, —pornografía infantil y adulta, agresiones físicas, violaciones grabadas y difundidas, peleas, etc.— y deben “enseñar” a los modelos de IA lo que deben utilizar y lo que no. La fórmula de contratación de estas personas, denominada crowdwork, la gestiona casi en exclusiva una empresa denominada Amazon Mechanical Turk. Distintas personas trabajan en la sombra desde diferentes lugares del mundo para mantener en funcionamiento todas las infraestructuras basadas en la IA. Bajo esta empresa se esconde una realidad de trabajos por internet, precarios, mal pagados y a menudo penosos. En muchas ocasiones, este tipo de trabajos conlleva grandes responsabilidades que no son compensadas adecuadamente. Por ejemplo, sabemos que hay personas responsabilizadas de supervisar constantemente el funcionamiento correcto y seguro de los automóviles autónomos, que, evidentemente, no lo son.
- Todas aquellas personas cuyas profesiones son vampirizadas por la inteligencia artificial: creadores de contenido, escritores y escritoras, ilustradores e ilustradoras, guionistas, actores y actrices, investigadores e investigadores, profesionales del derecho, etc.
- La inteligencia artificial, en sus diversas manifestaciones, nace cargada de prejuicios, de manera que impone criterios de actuación que benefician a los hombres blancos, occidentales y ricos. ¿Quiénes son castigados por algoritmos y recomendaciones automatizadas? Personas pobres, racializadas, de clase trabajadora, familias desestructuradas y, en buena medida, mujeres.
Las autoras están convencidas también de que la IA no es peligrosa para la humanidad por su hipotética capacidad de independizarse de la tutela humana, sino por su voracidad a la hora de consumir recursos naturales: agua y electricidad. La IA, ese gran adelanto tecnológico, es insostenible desde el punto de vista energético. Baste un pequeño ejemplo: generar uno de esos dibujos que resultan tan graciosos, equivale a consumir la energía necesaria para cargar completamente uno o dos teléfonos inteligentes.
El reto que las autoras plantean es exigente: Tenemos que ser capaces de distanciarnos de las excesivas expectativas que genera la IA. Se trata de no caer en la trampa del FOMO, acrónimo inglés de la expresión “fear of missing off”, “miedo a perderse algo”. El marketing de la IA seduce a las personas con la promesa de grandes beneficios en la vida laboral, académica, y familiar. Parece que no caer rendidos a sus encantos nos va a hacer perder oportunidades.