Google explica las medidas de seguridad para las funciones del agente de Chrome

Cada vez más navegadores experimentan con funciones de agentes que realizan acciones en su nombre, como reservar boletos o comprar varios artículos. Sin embargo, estas capacidades de los agentes también plantean riesgos de seguridad que pueden provocar la pérdida de datos o dinero.

Google ha detallado su enfoque para manejar la seguridad del usuario en Chrome utilizando modelos de observador y consentimiento a las acciones del usuario. La compañía hizo una vista previa de las funciones del agente en Chrome en septiembre y dijo que esas funciones se implementarían en los próximos meses.

La compañía dijo que está utilizando la ayuda de algunos modelos para mantener bajo control las acciones de los agentes. Google dijo que desarrolló un Crítico de alineación de usuarios utilizando Gemini para examinar los elementos de acción creados por el modelo de planificación para una tarea específica. Si el modelo crítico cree que las tareas planificadas no sirven al objetivo del usuario, le pide al modelo planificador que reconsidere la estrategia. Google descubrió que el modelo detractor sólo ve los metadatos de la acción sugerida y no el contenido web real.

Para evitar que los agentes accedan a sitios web no autorizados o que no sean de confianza, Google también utiliza conjuntos de orígenes de agentes, que restringen el modelo al acceso a orígenes de solo lectura y orígenes de solo lectura. El origen de solo lectura son datos desde los cuales Gemini puede consumir contenido. Por ejemplo, en un sitio web de compras, los listados son relevantes para la tarea, pero los anuncios publicitarios no lo son. Asimismo, Google dijo que el agente solo puede hacer clic o tocar ciertos iframes en una página.

“Esta separación exige que solo los datos de un conjunto limitado de orígenes estén disponibles para el agente, y que los datos solo se puedan pasar a los orígenes grabables. Esto limita el vector de amenaza de fugas de datos entre orígenes. Esto también le da al navegador la capacidad de imponer parte de esta separación, por ejemplo, ni siquiera enviando datos que queden fuera del conjunto legible al modelo”, dijo la compañía en una publicación de blog.

Google también controla la navegación de la página examinando las URL utilizando un modelo de observador diferente. Esto puede impedir la navegación a URL maliciosas generadas por modelos, dijo la compañía.

El gigante de las búsquedas dijo que también está entregando las riendas a los usuarios para tareas delicadas. Por ejemplo, cuando un agente intenta navegar a un sitio web confidencial con información como su información bancaria o médica, primero le pregunta al usuario. Los sitios web que requieren iniciar sesión solicitarán permiso al usuario para utilizar el administrador de contraseñas de Chrome. Google dijo que el modelo de agente no tiene acceso a los datos de la contraseña. La empresa añadió que preguntará a los usuarios antes de realizar acciones como realizar una compra o enviar un mensaje.

Google dijo que también tiene un clasificador de inyección rápida para evitar acciones no deseadas y también está probando las capacidades del agente contra ataques creados por investigadores.

Los fabricantes de navegadores con IA también prestan atención a la seguridad. A principios de este mes, Perplexity lanzó un nuevo modelo de detección de contenido de código abierto para evitar ataques de inyección rápida contra agentes.