La consultora Gartner recomendó que las grandes empresas bloqueen el uso de navegadores con IA, tales como Atlas de Open IA o Comet de Perplexity, hasta que los riesgos puedan ser gestionados adecuadamente. La recomendación viene en un informe titulado "Cybersecurity Must Block AI Browsers for Now", donde los autores advierten que las configuraciones por defecto "priorizan la experiencia de usuario por sobre la seguridad", lo que puede generar situaciones de riesgo.
Estas situaciones incluyen:
- Inyección de prompts
- Acciones equivocadas de los agentes por "razonamiento inexacto"
- Pérdida y abuso de credenciales, si el agente es engañado para visitar un sitio de phishing
- Empleados que ignoran sus capacitaciones en ciberseguridad al pedirle al agente que complete tareas en su nombre
- Agentes que realicen compras corporativas incorrectas, por ej. reservar vuelos equivocados
- Pérdida de información corporativa en la nube, donde los servicios de IA se procesan
El documento sugiere que es posible mitigar los riesgos investigando las capacidades de quienes proveen los servicios de los navegadores de IA, para entender sus medidas de seguridad, si eso se puede considerar como un riesgo aceptable para la organización. Aun así, Gartner recomienda "educar a los usuarios respecto a que cualquier cosa que estén viendo puede ser potencialmente enviada al servicio de IA", para que se aseguren de no compartir información que sea sensible mientras tengan activados sistemas de generación de resúmenes u otras funciones autónomas.
El reporte advierte que es "improbable" poder eliminar todos los riesgos de potenciales acciones erróneas por parte de los agentes de IA, indicando que "las organizaciones con baja tolerancia al riesgo posiblemente requerirán bloquear los navegadores con agentes de IA en el largo plazo".
El reporte de Gartner no es el único que ha advertido riesgos para las corporaciones. Hace algunos meses, investigadores del navegador Brave advirtieron sobre el peligro de la "inyección de prompts", que aun no tiene una mitigación. Este ataque puede ocurrir cuando los agentes de IA tratan el contenido de una página web o de una imagen como si fueran parte de las instrucciones recibidas del usuario. Por ejemplo, un sitio web podría esconder instrucciones en texto invisible para los humanos, pero que sí son leídas por la máquina, instruyéndole realizar tareas dañinas.
En noviembre, Cato Networks también reveló la vulnerabilidad "HashJack", que permite utilizar sitios web legítimos para manipular a los navegadores con IA, insertando fragmentos de código en la URL de un sitio real tras el signo # (hash), que piden al navegador entregar información equivocada, links de phishing o robar información del usuario.
