Microsoft advierte: las funciones del agente de Windows 11 pueden provocar alucinaciones.

Hace unos días, Microsoft anunció que Windows 11 está experimentando una Revisión acticótica. La compañía advirtió indirectamente que las vulnerabilidades de seguridad pueden estar expuestas, y hoy emitieron un aviso actualizado. "A medida que se introducen estas capacidades, los modelos de IA todavía enfrentan limitaciones funcionales en términos de cómo se comportan y, ocasionalmente, pueden alucinar y producir salidas inesperadas". Después de instalar Windows 11 Build 26220.7262, encontrará un nuevo interruptor para "Características de activación experimental" en Configuración > Sistema en "Componentes de inteligencia artificial". Afortunadamente, esta es una característica opcional y debe estar habilitada manualmente.

Al activar la función, Windows mostrará una advertencia de que estas capacidades son experimentales y podrían afectar a su dispositivo. En la práctica, el riesgo de seguridad es la mayor preocupación. Ya están apareciendo nuevas técnicas de ataque vinculadas a agentes autónomos, con una inyección de marca cruzada que se destaca. En esos ataques, las instrucciones maliciosas se ocultan dentro de documentos ordinarios o elementos de interfaz, por lo que un agente los sigue en lugar de su tarea original. Eso podría permitir que un agente instale malware, filtre los detalles de pago o lleve a cabo otras acciones dañinas.

 

Microsoft dice que estos agentes se ejecutan dentro de un "espacio de trabajo de la Agencia", donde cada agente obtiene una cuenta de alcance auditable y sus acciones se registran para su posterior revisión. La compañía compara esto con Windows Sandbox, pero los agentes están diseñados para persistir y pueden continuar actuando sobre los archivos a través de las sesiones, lo que amplía la posible superficie de ataque. De forma predeterminada, se puede conceder a un agente acceso de lectura y escritura a carpetas comunes como descargas, escritorio, documentos, imágenes, música y videos. Incluso con conjuntos de acciones limitados y cuentas de ejecución separadas, esos valores predeterminados dejan huecos hasta que Microsoft implementa protecciones más fuertes como permisos de grano más fino y defensas robustas contra la inyección rápida.

Fuentes: Vía Windows Latest, Microsoft