Microsoft continua a spingere sull'IA, ma non si fida degli agenti
Oggi alle 6:24
1792736679508
Secondo Hayete Gallot, responsabile della divisione Microsoft Security, i modelli IA più avanzati non possono essere considerati completamente affidabili: possono commettere errori, essere manipolati o prendere decisioni impreviste pur cercando di raggiungere l’obiettivo assegnato.
Il problema diventa particolarmente serio quando questi agenti ricevono accesso ad informazioni sensibili e sistemi importanti. Un comportamento inatteso potrebbe infatti causare danni anche senza un attacco informatico diretto.
Microsoft non intende però rinunciare a questa tecnologia. Al contrario, sta sviluppando nuove protezioni attraverso Project Perception ed i Guardian Agents, sistemi basati a loro volta sull’intelligenza artificiale, progettati per monitorare le attività degli altri agenti e intervenire quando rilevano comportamenti rischiosi.
Tra le misure previste ci sono permessi limitati alle attività necessarie, valutazioni continue del rischio e la possibilità di bloccare operazioni sospette o richiedere l’approvazione umana. L’obiettivo è evitare che un agente autonomo possa agire senza controlli adeguati.
La strategia evidenzia il paradosso dell’attuale corsa all’IA: le aziende vogliono affidare sempre più compiti ai sistemi autonomi, ma devono anche costruire strumenti per contenerne gli errori
Fonte: TechPowerUp