Las apuestas de Google por las marcas de agua invisibles con IA serán tan buenas como las visibles. La empresa continúa su semana Noticias sobre Géminis 3 con el anuncio de que lanzará su detector de contenido de IA, SynthID Detector, en versión beta privada para que todos lo usen.
Esta noticia coincide con la publicación de Nano Plátano ProfesionalEl editor de imágenes AI extremadamente popular de Google. El nuevo modelo Pro tiene numerosas actualizaciones, incluida la capacidad de crear texto legible y mejorar sus imágenes a 4K. Esto es fantástico para los creadores que utilizan IA, pero también significa que identificar contenido generado por IA será más difícil que nunca.
Los deepfakes existieron mucho antes que la IA generativa. Pero las herramientas de inteligencia artificial como las desarrolladas por Google y OpenAI permiten a cualquiera crear contenido falso atractivo de manera más rápida y rentable que nunca. Esto ha llevado a una afluencia masiva de contenido de IA en línea, de todo tipo de áreas. pendiente de IA inferior hasta deepfakes de apariencia realista. La aplicación de vídeo viral de IA de OpenAI, sorafue otra herramienta importante que nos mostró lo fáciles que son estas herramientas de IA se puede abusar. No es un problema nuevo, pero la IA ha provocado una escalada dramática de la crisis de los deepfake.
Leer más: AI Slop ha convertido las redes sociales en un páramo antisocial
Por eso se creó SynthID. Google introdujo SynthID en 2023 y cada modelo de IA lanzado desde entonces ha adjuntado estas marcas de agua invisibles al contenido de IA. Google también agrega una marca de agua pequeña, visible y brillante, pero ninguna de las dos ayuda realmente si te desplazas rápidamente por las redes sociales y no analizas intensamente cada publicación. Para evitar que empeore la crisis de los deepfakes (que la empresa ayudó a crear), Google está lanzando una nueva herramienta de identificación de contenidos con IA.
Ahora puedes preguntarle a Gemini si una imagen se creó con IA. Pero sólo será reconocido si fue creado con la IA de Google.
SynthID Detector hace exactamente lo que sugiere su nombre; Analiza imágenes y puede detectar la marca de agua invisible SynthID. Entonces, en teoría, puedes cargar una imagen en Gemini y preguntarle al chatbot si fue creada con IA. Pero hay un gran problema: Gemini sólo puede confirmar si una imagen fue creada usando la IA de Google, no la de otra compañía. Debido a que hay tantos modelos de imágenes y videos de IA disponibles, esto significa que Gemini probablemente no pueda decirle si fue generada por IA usando un programa que no es de Google.
En este momento sólo puedes solicitar imágenes, pero Google dijo en una publicación de blog que planea expandir las funciones a video y audio. Por limitadas que sean, herramientas como estas siguen siendo un paso en la dirección correcta. Existen varias herramientas de detección de IA, pero ninguna de ellas es perfecta. Los modelos de medios generativos están mejorando rápidamente, a veces demasiado rápido para que las herramientas de descubrimiento puedan seguir el ritmo. Por eso es extremadamente importante marcar cualquier contenido de IA que comparta en línea y permanecer escéptico ante cualquier imagen o video sospechoso que vea en sus feeds.
No se pierda nuestro contenido técnico imparcial y revisiones de laboratorio. Agregue CNET como su fuente favorita de Google.
Puede encontrar más información aquí. todo en Géminis 3 Y ¿Qué hay de nuevo en Nano Banana Pro?.
About The Author
