OpenAI lanzó su propio navegador web bautizado "Atlas", que combina su asistente de inteligencia artificial, ChatGPT, con el uso de la web. " Tu navegador es donde se une todo tu trabajo, herramientas y contexto. Un navegador construido con ChatGPT nos acerca a un verdadero super asistente", declara la compañía en el anuncio del nuevo browser, que está disponible de momento solo para MacOS.
Atlas se suma a otros intentos de competir con Chrome, el actual dominador del mercado, como Comet de Perplexity y Fellou.ai. Sin embargo, este nuevo tipo de navegadores también acarrea nuevos tipos de riesgos y vulnerabilidades, asociados a la inteligencia artificial.
Inyección invisible de prompts
Esta vulnerabilidad puede ocurrir cuando el modelo o los agentes de IA tratan el contenido de una página web o de una imagen como si fueran parte de las instrucciones recibidas del usuario. Por ejemplo, un sitio web podría esconder instrucciones en texto invisible para los humanos ya sea directamente en el sitio o en las imágenes, pero que sí es leído por la máquina.
"Lo que hemos encontrado confirma nuestras preocupaciones iniciales: la inyección indirecta de prompts no es un problema aislado, sino un desafío sistémico que afecta a toda la categoría de navegadores con IA", escribieron Artem Chaikin, ingeniero senior de seguridad móvil senior en Brave Software, y Shivan Kaul Sahib, vicepresidente de privacidad y seguridad.
"Los navegadores con IA que pueden tomar acciones en tu nombre son poderosos y sin embargo extremadamente arriesgados. Si estás logueado en cuentas sensibles como tu banco o tu correo electrónico en tu navegador, simplemente pedir un resumen de una publicación de Reddit puede resultar en un ataque que robe dinero o tu información privada", advirtieron.
Algunas personas rápidamente hicieron pruebas tratando de engañar a Atlas tras su lanzamiento, algunas con éxito. Entre las pruebas realizadas por Brave en Comet y Fellou estaba incluir textos en resúmenes de documentos, y capturar asuntos de correos en Gmail.
El jefe de Seguridad de la Información de OpenAI, Dane Stuckey, aseguró que se hicieron ajustes sobre Atlas para prevenir este tipo de ataques, "sin embargo, la inyección de prompts sigue siendo un problema de seguridad de frontera, sin resolver, y nuestros adversarios destinarán tiempo y recursos importantes para hacer que el agente de ChatGPT caiga en estos ataques".
