Ballie, el robot-pelota de Samsung para el hogar

La firma ha presentado el dispositivo, un asistente de fitness, seguridad o domótica para el hogar

from INFORMACION - Tecnología https://ift.tt/35CiA70
via IFTTT

Estos son los trabajos del futuro según LinkedIn: los especialistas en inteligencia artificial cobran 140.000 dólares anuales

¿Tus hijos tienen dudas sobre qué futuro profesional elegir? ¿Eres tú el que andas dudando qué carrera elegir? Si quieres ganarte un buen sueldo, una idea muy recomendable es la de especializarse en el ámbito de la inteligencia artificial.

Eso es al menos lo que revela un estudio de LinkedIn con los puestos de trabajo más prometedores a nivel de demanada y sueldos en los próximos años. El sueldo medio de los especialistas en el ámbito de la inteligencia artificial ronda los 140.000 dólares al año en Estados Unidos, pero también habrá mucha demanda de ingenieros en robótica, especialistas en ciberseguridad o desarrolladores de Salesforce.

En Xataka

Mi jefe es un algoritmo: así es como la inteligencia artificial plantea una nueva revolución industrial (Captcha 1x06)

La inteligencia artificial dará muchas alegrías a sus profesionales

La inteligencia artificial se ha convertido en una disciplina extraordinariamente prometedora en los últimos tiempos, y el interés y la expectación que genera tienen impacto directo en el ámbito laboral.

De hecho se habla mucho del número de empleos que se destruirán —o más bien, transformarán— por la irrupción de la automatización de tareas que permiten sistemas de inteligencia artificial, pero para realizar esos procesos se necesitan más y más especialistas en este campo.

En Xataka

La cara y la cruz de la IA: el PIB mundial aumentaría en 15,7 billones, pero el 52% de los empleos españoles serían automatizables

Eso es lo que refleja el estudio de LinkedIn con su Informe de Empleos Emergentes 2020. La lista en su edición para España (con la tasa de crecimiento anual) es la siguiente:

1. Especialista en inteligencia artificial (76% de crecimiento anual)
2. Desarrollador de Salesforce (75% de crecimiento anual)
3. Especialista en Customer Success (70% de crecimiento anual)
4. Ingeniero de Robótica (65% de crecimiento anual)
5. Especialista en Ciber Seguridad (60% de crecimiento anual)
6. Agile Coach (57% de crecimiento anual)
7. Consultor de Cloud (49% de crecimiento anual)
8. Desarrollador de Python (49% de crecimiento anual)
9. Científico de datos (47% de crecimiento anual)
10. Desarrollador de Big Data (45% de crecimiento anual)
11. Ingeniero de Datos (44% de crecimiento anual)
12. Representante de Help Desk (42% de crecimiento anual)
13. Representante de Desarrollo de Negocio (41% de crecimiento anual)
14. Representante de Desarrollo de Ventas (41% de crecimiento anual)
15. Ingeniero de Cloud (40% de crecimiento anual)

En realidad hay varias listas dependiendo de cada país, y aunque hemos tomado como referencia la de España se puede ver cómo algunos trabajos -como especialista en inteligencia artificial, ingeniero en robótica, especialista en ciberseguridad o científico de datos- son bastante comunes y su demanda es internacional.

Sueldos por las nubes... según dónde trabajes

La demanda de profesionales en estos ámbitos hace que los sueldos anuales que pueden llegar a pagarse sean notables. En otros sitios de búsqueda de empleo como Indeed se indica como esos especialistas en inteligencia artificial rondan de media los 140.000 dólares anuales de sueldo, aunque hay ocasiones en las que se pueden alcanzar los 250.000 dólares al año.

Este mismo sitio web también compilaba su lista de "los mejores 25 trabajos de 2019", y en dicho informe se mostraba cómo los ingenieros en aprendizaje automático (machine learning) eran los más demandados, con un crecimiento del 344% de la demanda en ofertas de empleo y sueldos base de 146.000 dólares. Es cierto que los sueldos varían mucho de un país a otro (y de una ciudad a otra), pero los datos permiten orientar a los interesados sobre esa demanda de futuro.

En Xataka

Qué recomiendan estudiar los expertos en inteligencia artificial para trabajar y vivir de ello

Aunque esas profesiones eminentemente técnicas de las que hemos hablado parecen ser protagonistas, en LinkedIn señalan que hay puestos muy demandados también en el área comercial. En España lo demuestran algunos puestos como los representantes de desarrollo de negocio o de ventas, pero sobre todo esos puestos de especialistas en Customer Success que deben tener especiales "capacidades relacionales, estratégicas y comunicativas" según LinkedIn.

Imagen | Unsplash

via Magazine - robotica-e-ia https://ift.tt/2FsQGjm

En el uso de la inteligencia artificial hay dilemas más urgentes que el del tranvía

La influencia de los algoritmos en la toma de decisiones difíciles es cada vez mayor. Ayudan en los diagnósticos médicos, indican dónde invertir, califican la solvencia de quienes aspiran a obtener un préstamo, señalan quién puede percibir ayudas sociales... Los algoritmos influyen en decisiones trascendentales para muchísimas personas, así que deberían ser infalibles. Y éticos.

El dilema tecnoético por antonomasia es el dilema del tranvía. Hay unas cuantas versiones distintas pero la base es siempre la misma: el conductor de un tranvía debe decidir entre atropellar a una o varias personas o evitarlo pero poniendo en riesgo a quienes transporta. La adaptación moderna del dilema sustituye el tranvía por un coche autónomo y al conductor por una inteligencia artificial. Pese a lo presuntamente retador de la propuesta (hasta el MIT tiene su propia versión online del experimento), cada vez son más las voces expertas que reclaman que los debates en torno a la ética de la IA deberían ir por derroteros más realistas.

Algunas escenas planteadas por Moral Machine no son precisamente fáciles ¿Salvamos al bebé que viaja solo o al perro que sabe cruzar por un paso de cebra? MIT

Uno de los usos habituales de los algoritmos en materia de decidir quién vive más o menos se da en centros de investigación donde simulan catástrofes naturales para que gobiernos y ONG puedan prever cómo van a actuar en esos casos. Los efectivos son limitados, así que hay que decidir dónde van a intervenir. ¿Se rescata a las personas atrapadas en un supermercado que está ardiendo o se intentan recuperar las medicinas almacenadas en los sótanos de un hospital a punto de inundarse? ¿Se envía al ejército a una de las dos opciones anteriores o se despliegan sus efectivos para intentar proteger una central nuclear? Los algoritmos tienen respuesta para todas estas cuestiones, pero para que las sugieran, antes hay que definir el valor de los parámetros: vidas humanas, víveres, medicinas, infraestructuras críticas… Hay que matematizar la realidad.

“Las máquinas funcionan con matemáticas y los algoritmos están escritos en lenguaje formal. Por eso es muy complicado implementar una ética, porque una cosa es aprender a leer o a conducir, y otra cosa es aprender ética, que implica experiencia y empatía”, explica Pilar Dellunde, matemática, filósofa y profesora en la Universidad Autónoma de Barcelona. “No basta con las normas de Asimov sobre que un robot no puede hacer daño a una persona, eso es muy fácil ponerlo en una novela. Pero causar daño a un ser humano es un concepto que una máquina no puede entender así como así. Si ya para nosotros es un concepto difuso, sólo hay que imaginar cómo puede aplicar una maquina un concepto de esa naturaleza.”

Algoritmos implacables, ¿usos neutrales?

Para la filósofa y matemática, las reflexiones teóricas sobre “vamos a matar al viandante o al pasajero o qué pasará cuando las máquinas posean la tierra” son “irreales porque no estamos en ese punto”. Los debates éticos deberían ser otros, por ejemplo, si se producen discriminaciones o sesgos. Y no faltan casos así.

El penúltimo toque de atención al trabajo de un algoritmo se publicó en Science en octubre de este año. Varios expertos descubrieron que el algoritmo que se utiliza mayoritariamente como referencia para planificar la oferta de servicios sanitarios en Estados Unidos produce sesgos raciales.

El algoritmo calcula las demandas sanitarias de una zona a partir de lo que gastan en servicios sanitarios las personas que allí viven. Más gasto supone mayor demanda de servicios sanitarios y, en consecuencia, que el algoritmo marque la zona como susceptible de que se amplíe su oferta de servicios sanitarios. Por el contrario, se asume que las zonas donde se produce un menor gasto tienen la demanda de servicios sanitarios cubierta.

Esta relación más gasto=más demanda es muy discutible, pues supone que sólo existe la demanda de un servicio cuando se paga por ese servicio, como si fuera imposible que alguien se quedara sin algo que quiere porque no puede pagarlo. (Llevado al ejemplo del mercado laboral, no existiría paro porque sólo demandaría trabajo quien lo tiene) Si tenemos dos enfermos que necesitan atención médica pero sólo uno de ellos paga por ella, el algoritmo que nos ocupa sólo contabilizaría el primer caso, no el segundo. El matiz no es un asunto menor en un país donde un viaje de 10 minutos en ambulancia puede costar cientos de dólares (factura médica aparte).

En Xataka

"Cometemos errores en la ciencia de datos desde el principio, al recoger esos datos": Catherine d'Ignazio, profesora adjunta del MIT

Tras el análisis de los datos, el algoritmo obtiene conclusiones tajantes: muchas de las zonas donde menos gasto sanitario se produce tienen una proporción importante de población negra. ¿Es porque están más sanos que los demás? No, es porque gastan menos dinero en servicios sanitarios. En consecuencia, el algoritmo asume que como el gasto es reducido, las demandas de servicios sanitarios deben de estar cubiertas y, por tanto, sugiere que no hace falta añadir más servicios sanitarios en esas zonas en particular.

Así que tenemos un algoritmo que recomienda que se preste menos atención a quienes menos pagan por servicios sanitarios, que en este caso es la población negra. ¿Es injusto el algoritmo? ¿Es racista? ¿Acaso es la reencarnación algorítmica de un capitalismo implacable? No, no y seguro que sí. Pero el algoritmo no tiene culpa ninguna. En todo caso, injusto y racista lo será el equipo que ideó el concepto que los desarrolladores trasladaron al algoritmo. Pero el algoritmo cumple intachablemente con su objetivo. Otra cosa es si es ético usar un algoritmo programado de esta forma para determinar el futuro a largo plazo del sistema sanitario estadounidense.

La responsabilidad es de la máquina

Aunque se suele hablar del poder decisor de los algoritmos, lo cierto es que en muy raras ocasiones el algoritmo decide. Normalmente aporta la información que sirve para que la persona encargada tome la decisión. Eso es así en la teoría. En la práctica puede que el ser humano se olvide de su poder decisor y prefiera cederle la responsabilidad a la máquina. “Esto es cada vez más habitual en el sector sanitario”, explica Dellunde. “Mucha gente interpreta que las máquinas son mucho más objetivas y eficientes, y en algunos casos lo serían, pero hay poca crítica respecto a que muchas veces no sabemos cómo funcionan”.

"Una cosa es que un humano apriete un gatillo a distancia, y otra muy distinta es que un arma tenga autonomía para decidir quién muere y quién no”

Para Dellunde, ceder el poder de decisión a las máquinas ya es cuestionable pero lo es todavía más si no se sabe a ciencia cierta cómo la máquina ha obtenido sus conclusiones. “En la ciencia es básico que puedas reproducir un experimento, también en medicina. Pero en ingeniería, por primera vez, tenemos una situación donde sabemos lo que obtenemos pero no cómo lo hemos obtenido. Hasta que no ves la consecuencia, no te das cuenta de que la máquina está cogiendo unos datos que no son correctos. Y esto no es sólo un bot de Twitter que se vuelve racista, sino que este problema puede darse también en sectores como el militar, donde la comunidad científica ya ha alertado de los riesgos del uso de armas autónomas. Una cosa es que un humano apriete un gatillo a distancia, y otra muy distinta es que un arma tenga autonomía para decidir quién muere y quién no”.

Según la profesora, muchos de los dilemas éticos actuales se deben a que se sobreestima la capacidad de la IA actual. El imaginario colectivo asume que la inteligencia artificial se parece, o debería parecerse, a HAL 9000, la superIA de ‘2001: una odisea en el espacio’. “Estamos muy lejos de HAL, no hay suficiente conciencia de los límites de la tecnología. Que Siri o Alexa hablen un lenguaje parecido al nuestro hace que la gente acabe pensando que hay más inteligencia de la que hay. Y realmente está muy limitada. El problema no es que las máquinas vayan a tener una superconciencia que nos vaya a eliminar, sino que ahora mismo hay algoritmos con errores o con programaciones que no son lo suficientemente buenas para las tareas que se proponen”.

Aunque podamos atribuir cierta inteligencia a las máquinas, concluye la profesora, las máquinas no tienen conciencia ni tampoco razonamiento ético. Así que el foco no debe ser preguntarse si las máquinas pueden obrar de acuerdo a la ética humana, sino asegurarnos de que los seres humanos las usemos, nosotros que podemos, de forma ética.

Imágenes | Cabecera |

via Magazine - robotica-e-ia https://ift.tt/2Qts93U

CES 2020: la mayor feria de electrónica abre las puertas a la tecnología sexual

La feria de electrónica de consumo CES, la mayor del mundo y que se celebrará en Las Vegas (EE.UU.) esta semana, abre sus puertas por primera vez en esta edición a la tecnología de carácter sexual, después de la polémica del año pasado en este campo. Con más de 170 000 visitantes registrados y 4.500 exhibidores (1.200 de ellos empresas emergentes), la CES se convertirá este año en el escaparate ideal para multitud de compañías que han creado productos «para adultos» y que hasta ahora tenían una visibilidad limitada por las restrictivas políticas de la feria. A mediados de 2019, la Asociación de Tecnología para Consumidores (CTA, por su sigla en inglés), organizadora del evento, decidió que 2020 fuese un «año de prueba» en el que por primera vez se pudiesen mostrar abiertamente productos como vibradores, juguetes sexuales y otros dispositivos estimulantes, e incluso se creó un premio de tecnología sexual dentro de la categoría de salud y bienestar. El anuncio rompió con una tradición de años en la CES que prohibía de forma explícita en sus políticas la exhibición de productos que pudiesen ser percibidos como «inmorales, obscenos, indecentes, profanos o que no estuviesen a la altura de la imagen de la CTA». Esta norma provocó gran revuelo el año pasado, cuando la organización premió y posteriormente retiró el galardón a la empresa emergente Lora DiCarlo por la fabricación de Osé, un robot de masajes femenino para estimular el orgasmo. Según sus creadores, Osé está diseñado para «imitar las mejores características de los tocamientos humanos» y combina un masajeador del punto G con una boca de clítoris para «excitar y estimular ambos puntos de placer de forma simultanea». La decisión de retirar el galardón causó indignación entre asistentes, exhibidores, medios de comunicación y en las redes sociales, al considerarse una medida sexista que menoscababa un producto destinado al disfrute sexual de las mujeres. Tal fue la controversia que la CTA se vio forzada a volver a considerar válido el premio, a emitir una disculpa pública y a comprometerse a reconsiderar su política con relación a la tecnología sexual, lo que unos meses más tarde derivó en la decisión de que la edición de 2020 fuese un «año de prueba» en este sentido y se relajasen las políticas restrictivas. Grandes expectativas con el 5G Al margen de los juguetes sexuales, esta nueva edición de la CES ha vuelto a generar expectativas con respecto a la red de alta velocidad 5G, después de que el año pasado decepcionase en este sentido y a las puertas de un ejercicio en el que se especula con que Apple saque el primer modelo de teléfono iPhone compatible con esta tecnología. Además del 5G, los televisores ocuparán como cada año un lugar privilegiado en la feria (incluyendo la tradicional rivalidad entre dos de las firmas más potentes con presencia en la CES, las surcoreanas Samsung y LG), y también se espera que destaquen los vehículos sin conductor y la tecnología para la salud, especialmente para las personas de edad avanzada. En este último campo, la edición que empieza la próxima semana contará con un 25 % más de exhibidores dentro de la categoría de salud y bienestar con respecto al año pasado, muchos de ellos centrados en aspectos como la detección de enfermedades, el cuidado de personas mayores y las alertas ante caídas o accidentes. Entre las personalidades que se pasearán por los casinos y el Centro de Convenciones de Las Vegas este año sobresalen la consejera delegada de AMD (Advanced Micro Devices), Lisa Su, así como la hija del presidente de EE.UU. y asesora en la Casa Blanca, Ivanka Trump, cuya presencia ya ha levantado críticas en las redes sociales. CES 2020 empezará formalmente el martes 7 de enero y durará hasta el viernes 10.

via Tecnología https://ift.tt/2Fo0F9A

Humanos deberían obtener el crédito por el arte hecho con IA

La Inteligencia artificial hoy día podemos verla en todo, desde nuestros servicios de streaming a la hora de buscar mejor contenido, pasando por nuestros Smartphone y terminando con aparatos más simples como incluso licuadoras. Sin duda se trata de una revolución tecnologica que busca de algún modo llevarnos a espacios más complejos que de algún modo comienzan a parecerse a las películas que vemos en la televisión. Y es que ahora la Inteligencia Artificial (IA) la estamos viendo incluso en el arte. Y muchos informáticos piensan que los humanos deberían obtener el crédito por el arte hecho con IA.

En la industria, existe una tensión algorítmica de fuerza contundente: “Eficiencia, capitalismo, comercio” Frente a “Los robots están robando nuestros trabajos”. Pero para el arte algorítmico, la tensión es más sutil. Según la consultora McKinsey and Company, solo el 4 por ciento del trabajo realizado en la economía de los Estados Unidos requiere “creatividad en un nivel humano medio”. Entonces, para el arte computacional, que intenta explícitamente enfocarse en este pequeño pedazo del pastel vocacional, no se trata de eficiencia o equidad, sino de confianza. El arte requiere inversiones emocionales y frénicas, con el retorno prometido de una porción compartida de la experiencia humana.

Cuando vemos arte computacional, la inquietante y espeluznante preocupación es: ¿quién está al otro lado de la línea? ¿Es humano? ¿Podríamos, entonces, pensar que no sea arte en absoluto?

La promesa de los algoritmos tiene un atractivo popular potente. Las posibles aplicaciones más grandiosas de algoritmos con inteligencia artificial (IA) a menudo van precedidas de campos de prueba ostensiblemente más manejables, por ejemplo, los juegos. Es lo mismo para proyectos de arte por computadora. Hoy por ejemplo, vemos a personas que jamás en sus vidas fueron consideradas como artistas creando piezas únicas de arte a través de medios computacionales.

Un ejemplo de esto es la música electrónica como el deepjazz. Ahora mismo, existen aplicaciones creadas con IA que pueden ayudar a muchos informáticos a crear piezas musicales increíbles sin que esta parte humana tenga que ser un reconocido artista de la música. Sin embargo, no podemos negar que este es un proceso inmutablemente humano por lo que no nos deja duda alguna de que esto convierte en cierto modo a esta persona en un artista. Quizás pudiéramos llamarles artistas informáticos pero indudablemente lo son.

Esto hace que sea una obligación darles crédito por el arte que sus computadoras o su software crean o diseñan. Es espectacular no solo ver piezas de música sino incluso hasta pinturas, pues existen ciertos algoritmos que están siendo diseñados para aprender a pintar cuadros excepcionales con una creatividad que aunque dista mucho de la humana, ciertamente es propia del algoritmo.

Imaginamos que si los avances de la IA siguen creciendo, alguna computadora o robot puede que quiera exigir por completo sus derechos como artista, pero mientras que detrás de esa máquina exista un ser humano  el crédito tendrá que ser compartido.

La entrada Humanos deberían obtener el crédito por el arte hecho con IA se publicó primero en IntelDig.

via IntelDig https://ift.tt/2ue4qMC

Isabel Valera, la murciana que lidera la inteligencia artificial ética en Max Planck y trabaja para Samsung en la Universidad de Cambridge

Entre la psicología y la tecnología, eligió la segunda. Su padre la convenció de que era mejor estudiar Telecomunicaciones, por aquello de que tenía más salidas. Así comenzó la ingeniera murciana Isabel Valera un viaje que le llevaría a la inteligencia artificial y en el que nunca abandonaría su lado social. Ahora, como líder del Grupo de Investigación de Aprendizaje Probabilístico en el Max Planck Institute for Intelligent Systems en Tübingen (Alemania), trabaja en el desarrollo de sistemas de aprendizaje automático más flexibles, robustos y justos.

¿Qué más? Ha obtenido menciones de honor y premios por varios artículos en temas de equidad del aprendizaje automático e interpretabilidad de datos. Es académica de la Red ELLIS -Laboratorio Europeo de Aprendizaje y Sistemas Inteligentes- que junta a los mejores académicos europeos con investigadores en la industria para sumar a Europa como actor clave en el desarrollo de la IA y crear empleo y nuevas oportunidades. Es parte también del Clúster de Excelencia sobre aprendizaje automático de la Universidad de Tübingen, y es ganadora de la beca Minerva Fast Track, un programa de Max Planck que selecciona cada año a dos mujeres científicas destacadas para impulsar su carrera profesional hacia puestos de liderazgo académicos.

Además de eso, es una de las investigadoras principales del proyecto Automatic Data Preprocessing (preprocesado automático de datos) financiado por Samsung en la Universidad de Cambridge y ha publicado más de 30 artículos en conferencias y revistas de primer nivel sobre aprendizaje automático y minería de datos.

¿Cómo ha llegado hasta aquí? Valera se fue en 2008 a Hannover (Alemania) con una beca Erasmus a hacer su trabajo de fin de carrera sobre geolocalización mediante antenas de telefonía móvil. Fue su primera conexión con la investigación y de ella salió su primera publicación en un simposio. Cuando volvió a España decidió que quería hacer un doctorado. Tras sopesar varias opciones, aceptó un puesto como ingeniera en el departamento de Teoría de la Señal y Comunicaciones de la Universidad Carlos III de Madrid (UC3M), donde tuvo su primer contacto con el aprendizaje automático.

Allí empezó su doctorado sobre aprendizaje bayesiano no paramétrico para el análisis de datos psiquiátricos. O, dicho de otro modo, se dedicó a realizar modelos estadísticos para analizar patrones en los datos y dependencias entre diferentes variables. "Teníamos una base de datos poblacionales de un estudio estadístico muy grande sobre salud mental con encuestas a unas 44.000 personas en EE.UU y una serie de criterios que los psiquiatras usan para diagnosticar cada desorden. Por otra parte, disponíamos del diagnóstico de cada persona, realizado de manera automática con esos criterios sobre 20 desórdenes de personalidad", explica Valera, a quien entrevistamos en el marco de su participación en un evento del Parque Científico de la UC3M sobre inteligencia artificial y ética.

"Con nuestros modelos de aprendizaje automático -continúa Valera- confirmamos que esos 20 desórdenes se podían juntar en tres grupos. Después analizamos cómo de bien estaban diseñados los 54 criterios que los psiquiatras tenían para hacer los diagnósticos". El objetivo final -dice- era comprobar que las hipótesis que los especialistas tenían se cumplían en los datos y darles pistas de qué criterios podrían estar más relacionados con otros desórdenes que para aquellos para los que se habían diseñado.

Graduación en la Universidad Carlos III de Madrid

Como parte de su tesis, la investigadora realizó también un análisis de predicción de suicidios y otro de cómo las propiedades sociodemográficas afectaban a cada desorden en función de parámetros como, por ejemplo, el género. "Cogimos estudios de psiquiatría y lo comparamos con los datos de la encuesta para ver cuáles de las hipótesis de los estudios se corroboraban en los datos", comenta.

Comportamiento en redes sociales

El siguiente destino de la investigadora fue el Max Plank for Software Systems en Alemania (concretamente, en la localidad de Saarbrücken) donde empezó a trabajar con dos investigadores en una colaboración entre los grupos de aprendizaje automático y de computación social. Su proyecto estaba centrado en modelar patrones sociales de las personas en redes sociales. Es decir, obtener información sobre cómo la gente adopta convenciones sociales de acuerdo a su entorno en el marco online.

"Con convenciones me refiero, por ejemplo, a cómo se acortan palabras largas, pasando de retuit a 'RT' o a qué acortadores de URL usas. Había varias opciones que tendieron a converger en unas pocas por motivos de influencia social", explica Valera. Ella fue la encargada de desarrollar el modelo que serviría para analizar los datos, medir cuánta es la influencia social para la adopción de ese tipo de productos y convenciones, y observar cómo evolucionan las dinámicas personales.

Antes de volver a Madrid a terminar su tesis en la UC3M, Valera realizó una estancia en la Universidad de Cambridge con el que sería uno de sus mayores colaboradores: el actual científico jefe de Uber Zoubin Ghahramani, antes subdirector académico del Centro Leverhulme para el Futuro de la Inteligencia. Su objetivo en esa investigación fue desarrollar un algoritmo capaz de estimar datos incompletos en bases de datos heterogéneas.

Tanto Ghahramani como Manuel Gómez Rodríguez, profesor e investigador en el Max Planck de Saarbrücken, ofrecieron a Valera realizar su postdoctorado con ellos. Ella se decantó por el trabajo en el Max Planck, donde continuó su trabajo de análisis de datos temporales en redes sociales. Su foco era analizar las diferentes redes sociales. Por ejemplo, cómo la gente comparte o actualiza su opinión. "Hicimos también modelos sobre cómo la gente aprende online, y sobre legibilidad y viabilidad de la información. Pudimos detectar qué editores en cualquier plataforma online de contenido -por ejemplo, Wikipedia- podían ser maliciosos, de tal forma que la plataforma pudiera tomar medidas para evitar su propagación", comenta Valera.

El modelo que desarrolló allá por 2014 lo usan ahora -dice- para detección de rumores falsos. "Una vez tienes el modelo puedes extrapolarlo a todo tipo de usos que tengan que ver con detectar comportamientos que no son normales o dinámicas diferentes de propagación", señala. También siguió colaborando con Ghahramani en un algoritmo para preprocesado de datos automático para automatizar la estimación de valores incompletos, detectar valores corruptos, etc. en bases de datos heterogéneas.

Algoritmos justos

Después de eso, Valera pasó dos años en el Max Planck de Kaiserslautern (Alemania), donde comenzó su trabajo en algoritmos justos, y seis meses en la Universidad de Cambridge con Ghahramani. En 2017 se fue al Max Plank for Intelligent Systems en Tübingen para formar su propio grupo de investigación dentro del departamento de Inferencia Empírica que lidera Bernhard Schölkopf, "uno de los más reconocidos expertos en aprendizaje automático a nivel mundial", según Valera. En su grupo -denominado Aprendizaje Probabilístico- trabaja en el análisis de datos reales y aplicaciones del mundo real, juntando todas las piezas de lo que venía haciendo en su carrera.

Charla de Valera el pasado verano en el Machine Learning Summer School (MLSS) en Moscú

Su objetivo es generar algoritmos con tres propiedades: que sean expresivos o flexibles (es decir, que capturen muy bien la distribución de los datos reales y relaciones estadísticas muy complejas entre ellos); que sean robustos, capaces de especificar lo que no saben y cómo de seguras o inciertas son sus predicciones, y estén alineados con nuestros valores morales y éticos -que no hagan más daño social del que previenen- y puedan explicarse.

"Cada vez que un algoritmo toma una decisión está haciendo una intervención que puede cambiar la distribución de los datos y el comportamiento o la dinámica de la sociedad", asegura Valera. "Cuando usas algoritmos para predecir lo que va a pasar en el futuro o a quién darle una hipoteca, a quién contratar o a quién recomendar o no un artículo, te arriesgas a que exista algún sesgo discriminativo en tus datos o a que estos no sean representativos. Parte de mi trabajo es encontrar formas de analizar si lo son y, en tal caso, buscar cómo corregirlo", explica la investigadora.

Para ello, lo primero hicieron en su grupo es traducir las normas antidiscriminación a medidas cuantificables con datos. "Ahora mismo solo es posible evaluar y corregir discriminación en contextos muy limitados de decisión binaria como, por ejemplo, si contrato o no a alguien. Lo que no está resuelto es cómo hacerlo cuando entre la observación y la decisión hay dos pasos. Por ejemplo, cuando un sistema predice si alguien devolverá o no una hipoteca, solo se muestra el resultado de quién cree que lo hará pero no la observación de aquellos a los que se ha descartado. En estos casos -dice Valera- el aprendizaje automático no funciona bien porque, si el sistema solo ve los datos de a quién le concede la hipoteca, sus estimaciones estarán sesgadas. "Si siempre se la deniegas a un subconjunto de personas nunca sabremos qué pasaría con ellos y, por tanto, no les tendremos en cuenta para hacer las predicciones", señala.

Lo correcto, por tanto, sería no usar algoritmos predictores sino que estos aprendan a decidir de manera justa y precisa. "Con predictores tomas decisiones deterministas –por ejemplo, 'si tienes una probabilidad X de devolver la hipoteca te la concedo'- pero para poder ser justos y precisos tenemos que tomar decisiones que no lo sean, que tengan un poco de randomización, de ruido", señala. Para corregirlo -dice- hay que introducir aleatoriedad en el sistema que permita ver los datos de los subconjuntos de personas que de otra forma quedarían ocultos.

Pero eso no es todo. "Hay algunas decisiones de discriminación que son incompatibles unas con las otras, como por ejemplo la igualdad de oportunidades o la paridad demográfica, que en general están contempladas en las leyes. Se ha demostrado que, excepto casos muy obvios, no se puede ser justo en esas dos definiciones a la vez, por lo que o buscas un equilibrio de qué nivel de discriminación puedes permitir en cada una o eliges una de las dos", comenta Valera.

Esto es algo que -dice la científica- no está definido socialmente y es una decisión que habrá que regular. "Necesitamos protocolos para la recolección de datos, para implementar la aleatoriedad en función de cómo equilibrar la balanza de discriminaciones, para definir el margen de error y para otras muchas incógnitas. Las leyes no son tan claras. Es necesario analizar dominio por dominio qué se debe de hacer y qué no", sostiene. Además, no hacerlo –añade- puede generar problemas de competitividad, ya que forzar que un algoritmo sea justo puede hacer que pierda algo de precisión en su rendimiento.

Explicaciones constructivas

Junto con la detección de sistemas discriminatorios y su corrección, Valera trabaja en una tercera área dedicada a su interpretabilidad: la capacidad de la IA de presentar su resultado a un humano en términos comprensibles para esa persona. Esta tiene dos vertientes. La primera es la verificación: que el algoritmo se comporte de forma esperada y sea objetivo. La segunda es la validación: entender las decisiones particulares que este toma. "Se trata de demostrar, por una parte, que los resultados de esos algoritmos no están provocando un daño social y, por otro, ser capaces de explicar a una persona por qué –por ejemplo- no se le ha concedido una hipoteca", afirma la investigadora.

Estas dos vertientes están relacionadas con la transparencia (cómo un algoritmo funciona en términos generales, que pase de ser una caja negra a una de cristal) y con la explicabilidad (explicar las decisiones, predicciones o resultados del algoritmo). Su trabajo se enmarca esta segunda línea: explicar una decisión particular que el sistema ha tomado. Se centra en lo que se denomina ' explicaciones contrafactuales', una solución que viene del ámbito de la filosofía. Se basa en buscar el vector de atributos más cerca del original para quien se haya tomado la decisión deseada: el punto más cercano a aquel para el que se ha tomado la decisión contraria. Siguiendo con el ejemplo de la hipoteca, sería el individuo al que se la han concedido que más se parece en la base de datos al sujeto al que se la han denegado, al cual se quiere proporcionar la explicación.

Valera durante su charla en el evento sobre Ia y ética el pasado noviembre en la UC3M

Su siguiente paso es hacer la explicación constructiva y que, en lugar de decir a una persona que le habrían concedido una hipoteca si tuviese un salario un 30% mayor (¿quién no lo querría?), le sugiera acciones para conseguirlo. "Queremos aportar explicaciones accionables y que tengan en cuenta cómo unos atributos dependen de otros para deducir el esfuerzo que puede tener que hacer la persona y, conforme a ello, proporcionar una recomendación útil y plausible", afirma Valera.

Su solución no trata de simplificar el algoritmo en sí para entender su lógica global sino facilitar explicaciones locales o personalizadas. "Algo importante es que normalmente interpretabilidad y explicabilidad están muy relacionadas con el resto de factores éticos o morales que nos preocupan. Normalmente quieres entender si un sistema es seguro, justo y robusto. Por eso tienes los diferentes niveles de explicaciones", reafirma Valera.

Visión holística para trabajar en IA

¿Qué recomienda la investigadora a alguien que quiera trabajar en inteligencia artificial? "Lo más importante es tener una visión holística del problema. Los tecnólogos tendemos a centrarnos en las particulares técnicas y a veces nos olvidamos de cómo han sido recopilados los datos o nos centramos solo en el algoritmos y asumimos que el problema que queremos solucionar siempre es el mismo", comenta. Por ejemplo –añade- "nos empeñamos erróneamente en que lo que tenemos delante es un problema de predicción y simplemente cambiamos un algoritmo de predicción por otro, cuando a lo mejor es nuestra visión la que está mal y en realidad ese problema debe abordarse con otro tipo de algoritmo".

Su recomendación tanto para un estudiante como para una empresa que quiera usar IA es siempre tener una visión amplia del problema y cuestionar todos los pasos a dar, desde la recolección de datos y la metodología a emplear hasta cómo se va a implementar en la práctica y qué diferencias hay entre el escenario en el que hacemos nuestras asunciones y la realidad. "Si estos dos no están alineados, no sabemos qué pasará", afirma. "Muchos problemas técnicos y éticos no surgen de uno de los pasos sino del sistema completo", concluye.

via Magazine - robotica-e-ia https://ift.tt/35aErm0

Explicaciones de un robot

Los sistemas inteligentes se comportan ahora como cajas negras. Ejecutan proezas asombrosas, pero no podemos saber cómo lo han hecho

via Robótica https://ift.tt/2rLtfhX