Mary Gray no es una antropóloga al uso. Trabaja en Microsoft Research como investigadora principal y preside su Comité Asesor de Ética. También es miembro del Centro Berkman Klein para Internet y la Sociedad de la Universidad de Harvard, profesora y miembro del Comité Permanente de la Universidad de Stanford para su proyecto AI100, encargado de reflexionar sobre el futuro de la inteligencia artificial (IA).
Antes de unirse a Microsoft, Gray, criada en la California rural más profunda, se dedicaba a estudiar la antropología estadounidense y las formas de organización política, en plena efervescencia del movimiento contra la represión homosexual. El colectivo reclamaba una identidad propia y a Gray le interesaba especialmente saber cómo el mundo online podría servir como vía de escape en aquellos años (comienzos de los 90) en los que empezaba generalizarse internet.
Eso llevó a la investigadora a adentrarse en el mundo de la tecnología y de los sistemas de redes como modeladores sociales. "Damos sentido a muchas de las cosas que hacemos como sociedad a través de una mirada a las tecnologías, que terminan ejerciendo como columna vertebral", asegura Gray durante una entrevista en su despacho en el Social Media Collective de Microsoft en Boston (EE.UU.), un laboratorio interdisciplinar orientado por cuestiones sociales del que no se espera que salga ninguna idea para un producto o negocio. Ciencia pura. Una isla dentro del gigante tecnológico.
"Damos sentido a muchas de las cosas que hacemos como sociedad a través de una mirada a las tecnologías"
La compañía comenzó a hace unos años a reclutar a investigadores como ella que vienen del mundo de las ciencias sociales con un foco de análisis cultural y crítico respecto al impacto de las tecnologías. "Se dieron cuenta de que los productos y entornos que estaban construyendo tenían que ver más con la sociedad que con el individuo. Cuando te dedicas a desarrollar software empaquetado es muy fácil pensar que estás creando algo para una persona pero cuando tu foco es construir cosas como un buscador, juegos de red o la Xbox, entras involuntariamente en el mundo de lo social", asegura.
La investigadora cree que si desde un tiempo a esta parte se están planteando desde la ingeniería preguntas sociales, tal vez es porque las ciencias sociales no se estaban haciendo preguntas sobre la tecnología. "No han prestado atención a estas cuestiones, yo misma tuve que abandonar la antropología porque desde ese campo no podía estudiar lo que quería. Eso es lo que me trajo aquí", asegura.
Trabajo fantasma
Gray sigue estudiando cómo la carencia de oportunidades económicas restringe la movilidad de algunas personas, pero ahora desde otra perspectiva. Concretamente, la de quienes se ganan la vida mediante empleos esporádicos que encuentran en plataformas de trabajo bajo demanda como Amazon Mechanical Turk. Es lo que lleva estudiando los últimos seis años, que ha dado lugar al libro que Gray publica este mismo mes: Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass (Trabajo fantasma: cómo evitar que Silicon Valley construya una nueva subclase global).
Portada de libro 'Ghost Whork'
La idea del libro surgió apenas unos meses después de que Gray llegara a Microsoft en 2012. "Estaba hablando con varios investigadores que usaban Amazon Mechanical Turk para cualquier cosa desde entrenar sistemas de aprendizaje automático a etiquetado para reconocimiento de imágenes. Entonces descubrí que era así como funcionaba la inteligencia artificial, mediante plataformas como esta que asignan a las personas disponibles online este tipo de tareas a la sombra", afirma.
Lo que captó su atención es la gran dependencia en esos trabajadores alrededor del mundo. Y también que, a pesar de ello, los investigadores no tengan ni idea de quiénes son, ni les importe. Sorprendida por ello, Gray quería saber más acerca de cómo funcionaba todo el ecosistema de lo que ella denomina "trabajo fantasma" y comenzó a investigar con su compañero Siddharth Suri, un 'informático social' que también trabaja en Microsoft Research.
En el libro, los autores examinan el impacto de la automatización en el futuro del trabajo a través de las experiencias de los trabajadores de la economía online bajo demanda (la gig econonomy), a menudo caracterizado por largas jornadas de trabajo mal pagadas, que carece de leyes laborales asociadas y de beneficios sociales. Más allá del debate sobre los repartidores de Deliveroo, los recaderos de Glovo o los conductores de Uber -que Gray sostiene que son apenas la punta del iceberg- los investigadores se refieren a lo que se conoce como 'computación humana': trabajos que empiezan y terminan online y que realizan cualquier tipo de tarea que pueda ser administrada, procesada, efectuada y pagada en línea.
Solo las tareas de etiquetado relacionadas con la IA supondrán un mercado global de más de 1.000 millones de dólares a finales de 2023, según un informe de Cognilytica. Estos trabajos potencian los sistemas, sitios web y aplicaciones de IA que todos usamos y damos por sentado. TripAdvisor, Match.com, Google, Twitter, Facebook o la propia Microsoft son algunas de las empresas más conocidas que generan tareas bajo demanda en estas plataformas. "Cada día surgen nuevas compañías con modelos de negocio que dependen de ellas. Este tipo de trabajo no solo está aumentando sino que se traduce, de facto, en una reorganización más amplia y profunda del empleo en sí", aseguran los investigadores.
Según los autores, esta forma de trabajo aún por clasificar no es intrínsecamente buena ni mala. El problema es que podría hacer invisible la labor de cientos de millones de personas. "Mientras siga a la sombra, sin definición y oculta a los consumidores que se benefician de ella, los trabajadores carecerán de derechos", escriben. Cuando se presta poca atención a las personas detrás de estos trabajos, pueden convertirse rápidamente en alienantes, degradantes, precarios y aislados.
"Mientras este tipo de trabajo siga a la sombra, sin definición y oculto a los consumidores que se benefician de él, los trabajadores carecerán de derechos"
Siglos de reformas globales, desde las leyes de trabajo infantil hasta las pautas de seguridad laboral, quedan diluidas en las transacciones laborales online. "Dado que este trabajo no se ajusta a ninguna clasificación contemplada en la legislación laboral, los acuerdos de términos de servicio para plataformas como Mechanical Turk -y otras como CrowdFlower- son casi indistinguibles de los cuadros de diálogo en los que todos hacemos clic para actualizar nuestro software, eliminando así las protecciones que los trabajadores tradicionales disfrutan", sostienen.
"Hay pocas dudas de que la economía bajo demanda genera valor y ahorra costes para las empresas. En el proceso, elimina las formas tradicionales de estabilidad y seguridad asociadas a los gastos generales del empleo a tiempo completo. La agitación social que viene con tal inestabilidad conlleva su propio precio. ¿Es ese el futuro que queremos para nosotros y para nuestros seres queridos?", afirman los autores.
Más trabajo, pero peor
El libro rompe con la línea de pensamiento que asegura que las máquinas reemplazarán a los humanos en el trabajo y que la automatización destruirá el empleo. Es lo que llaman 'la paradoja de la última milla de automatización';
"Si bien es innegable que los robots están aumentando, la mayoría de los trabajos automatizados aún requieren que los humanos trabajen las 24 horas del día, a menudo a tiempo parcial o por contrato, afinando y cuidando los procesos automatizados cuando las máquinas se atascan o se rompen. El trabajo de fábrica, el trabajo a destajo y la subcontratación fueron todos precursores de las tareas distribuidas online. Estos trabajos venían con poca estabilidad o apoyo. Fueron realizadas, en su mayoría, por personas a las que los economistas podrían considerar prescindibles o de bajo valor", comparan los investigadores.
Dado que las tareas que se demandan son dinámicas, no meramente mecánicas, es difícil sacar a los humanos del círculo. Identificar discursos de odio, clasificar un alquiler como un lugar ideal para una boda en primavera, o enmendar correctamente una declaración de impuestos requiere discernimiento humano. "La gran paradoja de la automatización es que el deseo de eliminar el trabajo humano siempre genera nuevas tareas para los humanos", señalan.
Tareas que, como explicaba Gray, precarizan las condiciones de trabajo. Por ello, los investigadores proponen en el libro soluciones "para garantizar que este nuevo tipo de trabajo cree oportunidades, en lugar de miserias, para quienes los realizan". Dichas recomendaciones provienen de la información que han obtenido a lo largo de seis años de investigación en los que han realizado más de 200 entrevistas, decenas de miles de encuestas en Estados Unidos y la India, docenas de experimentos de comportamiento y análisis de conexiones personales y grupos creadas en esas plataformas, además de investigar a otros actores clave como las personas que las han puesto en marcha o quienes contratan trabajadores en ellas.
Desde el lado de las empresas, consideran necesario que estas establezcan un 'Código de buen trabajo' que incluya también a las compañías que formen parte de su cadena de suministro que contratan online trabajo bajo demanda a granel. "Las empresas deben poder garantizar a sus clientes y a sus propios empleados que sus productos han sido desarrollados bajo buenas condiciones y prácticas de trabajo".
Del lado de los poderes públicos, reclaman una clasificación de empleo adecuada para este colectivo como paso necesario para ponerse al día con un cambio hacia una economía de servicio que no puede hacerse sin contingencia y respuesta rápida a la demanda de los consumidores. Creen que la tradicional lógica de trabajo 'a tiempo completo' o 'a tiempo parcial" no se ajusta a la actualidad y en el contexto de la economía bajo demanda no tiene sentido. "Las personas trabajan cuando pueden y como pueden, y no son menos valiosas por ello", escriben.
"La tradicional lógica de trabajo 'a tiempo completo' o 'a tiempo parcial' no se ajusta a la actualidad y en el contexto de la economía bajo demanda no tiene sentido"
Otro de los aspectos a abordar es el de las coberturas sociales. Proponen una red de seguridad que puede ir desde la asistencia sanitaria universal o coberturas básicas hasta garantizar bajas pagadas, permisos para cuidados familiares o el acceso a espacios de trabajo compartido. "Si nuestras entrevistas sugieren algo sobre el futuro del trabajo, es que nos dirigimos a una crisis de salud pública provocada por personas que trabajan no ya en pésimas condiciones sino de forma no ergonómica. Las empresas necesitan trabajadores sanos, y una atención preventiva e integral para todos es la forma más rentable de garantizarlo".
Algunas de estas medidas se contemplan en las nuevas normas sobre los nuevos derechos mínimos de los trabajadores más vulnerables con contratos atípicos o con empleos puntuales aprobadas por los eurodiputados el pasado 16 de abril. En febrero, la empresa de reparto Hermes fue noticia por llegar a un acuerdo con el sindicato GMB de Reino Unido para dar sus 15.000 trabajadores por cuenta propia la posibilidad de actualizar su contrato a la modalidad 'plus', lo que les proporcionaría hasta 28 días de vacaciones pagadas por año y un salario mínimo garantizado de cerca de 10 euros por hora (algo más que el salario mínimo actual en Inglaterra).
Protecciones sociales aparte, Gray y Suri mencionan en Ghost Work otras muchas soluciones orientadas necesidades identificadas durante su investigación, como la de colaborar o trabajar en grupo. "Contrariamente a lo que se cree, obtener ingresos no es su única preocupación. La gente que opta por estos trabajos quiere tener flexibilidad, controlar su tiempo, con quién trabaja y en qué trabaja. Para acceder a esa forma de control que no pueden obtener mediante un empleo formal, trabajan una media de 12 a 15 horas diarias. Una vía para sentir cierta sensación de agencia es ser capaces de conectar con otras personas que también están realizando este tipo de trabajo. Están colaborando de forma espontánea en cuestiones como facturar correctamente, manejar el tiempo, o simplemente para obtener una validación sobre su trabajo profesionales", explica Gray durante la entrevista.
La posibilidad de defenderse ante situaciones precarias también es algo que contempla en su libro. Propone un registro de terceros que permita a las personas que trabajan bajo demanda construir sus currículos y acumular valoraciones independientemente de la plataforma que usen. Es decir, que puedan llevar consigo su registro de logros que autentifique su identidad y reputación. Con ello se podría exigir a las empresas que registren suspensiones y expulsiones de trabajadores, con lo que los trabajadores tendrían una manera de apelar públicamente estas acciones si sienten que han sido injustas.
En el libro se destacan también aspectos positivos asociados al trabajo online bajo demanda, además de los obvios como la flexibilidad, el control del tiempo o la elección de proyectos (siempre que la situación económica lo permita, claro). "El trabajo en plataformas puede evitar los dictados culturales de quién puede y quién no puede trabajar y en qué debido a su raza, género, religión o sus diferentes capacidades o condicionantes físicos. También pueden usar estas plataformas para adquirir experiencia y acceder posteriormente a un trabajo más cualificado", escriben Gray y Suri.
Mary Gray y Siddharth Suri, autores de 'Ghost Work'
IA con justicia, respeto y beneficencia
En relación con la inteligencia artificial, Gray asegura que estamos realmente en el comienzo del desarrollo de esta tecnología y eso nos hace aún más dependientes del conocimiento y comprensión humanas para ser capaces de programar mejores algoritmos. "La creación de estos nuevos mercados no es sostenible sin garantías para los trabajadores y si el entorno de trabajo es hostil", asegura.
La investigadora también cree que es un error atribuir capacidades mágicas a la IA. "No es que AlphaGo juegue al ajedrez mejor que los humanos, es que AlphaGo ha aprendido de los humanos para jugar mejor", afirma. En cuanto a sus límites, asegura que no todo es posible. "Si preguntas a un tecnólogo si va a ser capaz de resolver el problema al completo te dirá que sí sin haber siquiera evaluado la escala del problema. Yo sin embargo te diré que no, que un ordenador no puede hacerlo todo. La forma en la que miramos al problema que pensamos que estamos resolviendo es muy diferente. Es un diálogo de sordos y no nos damos cuenta", sostiene.
En cuanto al abordaje ético del desarrollo tecnológico, cree que más que pasar horas discutiendo sobre conceptos filosóficos hay que centrarse en desarrollar un método práctico y aplicable. "Abrir la mente y pensar en qué necesita la persona que usará o consumirá tu producto; reorientar la formación y el trabajo los informáticos y tecnólogos para que se den cuenta de que están interactuando con personas", asegura. Ya no vale -dice- el lema [acuñado por Mark Zuckerberg] de "muévete rápido y rompe cosas".
Gray cree que es un error que el trabajo técnico esté orientado a resolver problemas pensando en datos porque entonces la única preocupación ética es cómo asegurar y proteger esos datos. En su opinión, es una vía paternalista y muy limitada que, en lugar de mostrar al usuario cómo proteger su privacidad, lo hace a su manera y sin preguntarte. "Es una forma muy estúpida de romper la confianza. ¿Por qué no le incluyes en el proceso y le preguntas qué le parece eso que estás pensando hacer con sus datos?. Es imprescindible implicar a las personas y obtener sus comentarios", señala.
Gray cree que la IA solo avanzará si hay un profundo compromiso con la gente, ya que es necesario entender por qué los humanos hacemos las cosas que hacemos, especialmente si lo que se pretende es modelar la toma de decisiones humanas. "No veo una forma de proceder sin reproducir todas las ventajas que la ciencia ha obtenido gracias al acceso a la gente, a la posibilidad de participar libremente y a pensar tanto en los beneficios como en el riesgo social y de grupo".
"La IA solo avanzará si hay un profundo compromiso con la gente"
Hay tres términos básicos para el análisis ético en investigación EEUU que, en mayor o menor medida, son aceptados globalmente y que Gray propone usar como guía para el desarrollo de tecnologías éticas. Son la justicia, el respeto y la beneficencia. Justicia se traduce en tener una muestra diversa e inclusiva; pensar en primer lugar a quién estás dejando fuera cuando estás innovando o construyendo algo. En segundo lugar, el respeto es un proceso de aprobación: ¿tienes posibilidad como consumidor de decir no, de abandonar un proyecto?
Por último, la investigadora considera que, si hay un modo en el que podemos hablar colectivamente sobre ello y devolver el liderazgo de la conversación a la sociedad va a ser mediante la beneficencia, que requerirá valorar los riesgos y beneficios para todos los actores implicados y exigirá a los informáticos e ingenieros una mejor evaluación del impacto de su trabajo, teniendo esto en cuenta.
Para ello deberán reconocer que no tienen experiencia en ciertos dominios y que necesitan hacer trabajo de campo e involucrar a los participantes para construir algo realmente robusto. "Si algo implica un riesgo de concentración de poder y de ofrecer beneficios a costa de otras personas, no lo construyas. La bomba nuclear dejó claro que no merece la pena. Ya no está permitida la lógica utilitaria de hacer cosas simplemente porque puedes hacerlas. No: hay que hacerlas solo si es bueno para la humanidad", concluye.
via Magazine - robotica-e-ia http://bit.ly/2HEnGWy