Microsoft conferma: Windows 11 Agentic OS potrebbe avere delle allucinazioni
Oggi alle 7:32
1764660778912
Microsoft continua a presentare Windows 11 come un futuro “Agentic OS”, e le nuove “Experimental Agentic Features” introdotte nell’ultima build preview mostrano concretamente cosa significherà: gli agenti IA avranno account e privilegi propri, operando in background mentre l’utente umano resta solo uno dei “login” attivi sul PC.
Questi agenti potranno eseguire attività tramite linguaggio naturale: avviare applicazioni, creare documenti, cercare offerte, acquistare prodotti, analizzare immagini e altro, utilizzando Copilot come interfaccia principale. Microsoft afferma che potranno essere monitorati come normali app, ma ammette anche che sono soggetti a allucinazioni e vulnerabili a manipolazioni, inclusa l’installazione di malware o la diffusione di dati sensibili.
Nel dettaglio, l’azienda ricorda che i modelli possono generare output imprevisti e che l’IA agentica introduce nuovi rischi, come il cross-prompt injection, in cui contenuti malevoli possono sovrascrivere le istruzioni dell’agente. Per affrontare queste criticità, Microsoft ha definito principi di sicurezza: gli agenti dovranno mantenere log dettagliati, l’accesso ai dati sensibili sarà limitato e autorizzato dall’utente, e non potranno interagire tra loro.
Il risultato è un sistema che, almeno per ora, sembra più rischioso che utile: invece di eseguire direttamente un’azione, l’utente si ritrova a “guidare” agenti autonomi (potenzialmente inaffidabili), con scenari che ricordano più la fantascienza distopica che un reale miglioramento dell’esperienza d’uso.
Fonte: TweakTown