Las funciones Agentic de Windows 11 son una pesadilla para la seguridad, confirma Microsoft.

Microsoft está renovando su sistema operativo Windows 11 para alinearse con la era de la IA agente. Esta actualización permitirá a los agentes de IA administrar tareas dentro del sistema operativo en función de comandos de usuario simples. Por ejemplo, si un usuario desea pedir una pizza en línea, el agente de IA puede abrir un navegador web, buscar una casa de pizza e ingresar la información y la dirección de la tarjeta de crédito del usuario. Sin embargo, Microsoft reconoce que esta capacidad plantea una vulnerabilidad de seguridad potencial. Al instalar Windows 11 Build 26220.7262, en Configuración > Sistema, encontrará un nuevo interruptor para "Características de agente experimental" dentro de los "Componentes de inteligencia artificial". Afortunadamente, es una característica opcional y requiere encender manualmente.

Al habilitar esto, Microsoft le da una advertencia: "Estas características aún se están probando y pueden afectar el rendimiento o la seguridad de su dispositivo". Y lo último es más cierto que el primero, ya que la seguridad es lo número uno que es preocupante. Para los agentes de IA, estamos viendo la aparición de vulnerabilidades de seguridad previamente desconocidas. Los ataques de inyección de inmediación cruzada representan un ejemplo significativo de esta tendencia. En estos escenarios, los atacantes ocultan directivas maliciosas dentro de documentos ordinarios o elementos de interfaz, secuestrando efectivamente las instrucciones originales del agente y haciendo que ejecute acciones no deseadas. Esto puede hacer que el agente de IA instale malware, proporcione información de tarjetas de crédito a terceros y mucho más. Consulte la función opcional y experimental, cortesía de Windows Latest a continuación.

  

Microsoft afirma que estos agentes de IA operan dentro de su propio "espacio de trabajo de la Agencia". Cuando Windows crea un agente de inteligencia artificial y le asigna una instancia en este espacio de trabajo, el agente tiene acceso limitado a los documentos, y sus acciones se aíslan del sistema y se pueden auditar. Esto significa que los usuarios pueden revisar más tarde qué acciones se tomaron. Microsoft compara esto con su Windows Sandbox, pero a diferencia del Sandbox, los agentes de IA persisten incluso después de haber sido apagados. De forma predeterminada, cuando están habilitados, los agentes de IA tienen acceso de lectura y escritura a las carpetas Descargas, Escritorio, Vídeos, Imágenes y Música. Aunque cada agente viene con un conjunto de acciones permitidas, sigue siendo una preocupación de seguridad hasta que Microsoft aborda problemas como inyecciones rápidas. Si bien estos agentes tendrán cuentas separadas para la ejecución de tareas, esto no mitiga completamente los agujeros de seguridad que abren.

Fuente: Windows Latest