miércoles, 18 de septiembre de 2024

El buscador de Google no diferenciaba entre imágenes normales e imágenes generadas por IA. Hasta ahora

El buscador de Google no diferenciaba entre imágenes normales e imágenes generadas por IA. Hasta ahora

Encontrar imágenes en Google es muy sencillo, pero los resultados plantean dos problemas. El primero, que a menudo es difícil conocer su procedencia y si están protegidas por derechos de autor. El segundo, aún más acuciante y preocupante, es si esas imágenes no son reales, sino que han sido generadas por IA. Y ahí es donde la empresa empieza a plantear soluciones.

Más transparencia. Google anunció el martes que su buscador ha comenzado a ser más transparente a la hora de reflejar si una imagen se ha generado con inteligencia artificial o no. Es un movimiento que forma parte de su colaboración con la Coalition for Content Provenance and Authenticity (C2PA).

Etiquetas para aclararlo todo. La solución de Google es bastante obvia: están añadiendo etiquetas a imágenes que Google ha detectado que han sido generadas o editadas mediante modelos de inteligencia artificial. El despliegue de dichas etiquetas tardará algún tiempo, pero lo comenzaremos a ver en los próximos meses.

Dónde veremos esas etiquetas. La medida acabará mostrándose en la opción "Acerca de esta imagen" y se aplicará al buscador, a Google Lens y a la opción "Rodear para buscar" de Android. En Google están integrando este tipo de información en su plataforma de publicidad y están considerando añadirla incluso en vídeos de YouTube, algo que confirmarán antes de que acabe el año.

Pero no dependen de ellos mismos. Para identificar esas imágenes, Google hará uso de los metadatos que los miembros de la C2PA han comenzado a integrar en imágenes generadas por IA. Empresas como Amazon, Microsoft, OpenAI o Adobe forman parte de esa coalición, y algunos desarrollos importantes como Flux —una popular alternativa a Midjourney— también comienzan a integrar dicha información. Aun así, pasará bastante tiempo antes de que esos metadatos se adopten de forma masiva... si es que eso llega a ocurrir.

Al menos es un principio. La medida tendrá por tanto un alcance limitado al menos a corto plazo, pero es un buen primer paso teniendo en cuenta la avalancha de imágenes generadas por IA que están inundando internet. Este tipo de etiquetado puede ser útil para mitigar parcialmente el peligro que plantean los deepfakes, y desde luego será una forma útil de poder creernos lo que estamos viendo... o no.

En Xataka | ¿Eres capaz de distinguir una imagen real de una generada por IA? Aquí tienes 20 fotos para comprobarlo



via Robótica e IA - Xataka https://ift.tt/oCtmX5Z

No hay comentarios:

Publicar un comentario