Microsoft propune agenți AI care supraveghează alți agenți
Cine verifică un agent AI care primește acces la aplicațiile unei companii? Cum păstrăm controlul asupra acțiunilor sale?
Microsoft a prezentat pe 19 octombrie o abordare pentru supravegherea agenților AI. Pornind de la acest anunț, analizăm ce pot face managerii pentru a organiza automatizarea cu responsabilități clare.
Ce anunță Microsoft despre Guardian Agents
Compania introduce Guardian Agents în cadrul Project Perception. Potrivit prezentării oficiale, aceștia pot investiga schimbările de risc, recomanda sau aplica măsuri de limitare și sprijini echipele de securitate.
Principiul central este separarea inteligenței modelului de autoritatea de a acționa. Controalele asupra accesului și operațiunilor trebuie să funcționeze independent de model.
Microsoft descrie și permisiuni adaptate sarcinii, acordate pentru o perioadă limitată. Acțiunile cu impact mai mare pot necesita aprobare umană verificabilă.
De ce contează limitele accesului
Un agent poate avea o sarcină utilă și bine definită. Asta nu înseamnă că are nevoie de acces la toate informațiile organizației.
Analiza ROSUPERTOP: înaintea implementării, managerul poate descrie separat ce citește agentul, ce modifică și ce transmite. Fiecare categorie implică o responsabilitate diferită.
De exemplu, pregătirea unei sinteze comerciale nu justifică automat modificarea contractelor. Accesul se stabilește în funcție de activitatea aprobată.
Un exemplu pentru departamentul financiar
Să presupunem că o firmă dorește să folosească AI pentru verificarea inițială a facturilor. Agentul poate identifica documente incomplete și poate pregăti o listă de neconcordanțe.
Într-un proiect pilot, firma poate păstra aprobarea plății la persoana responsabilă. Agentul formulează o propunere, iar angajatul verifică documentele și decide.
Schimbarea contului bancar al unui furnizor poate urma un circuit separat de confirmare. O asemenea modificare nu ar trebui acceptată numai fiindcă apare într-un mesaj analizat de AI.
Acesta este un exemplu editorial de organizare, nu o implementare testată de ROSUPERTOP sau o funcție garantată a unui produs.
Cine răspunde pentru personalul digital
Propunem ca fiecare agent utilizat de o organizație să aibă un responsabil desemnat. Acesta stabilește scopul și verifică dacă automatizarea rămâne utilă.
Departamentul IT configurează accesul împreună cu responsabilul activității. Conducerea stabilește deciziile care necesită aprobare și persoana care poate opri procesul.
O evidență simplă poate include sarcina, aplicațiile accesate, durata permisiunilor și procedura de intervenție. La schimbarea rolului agentului, aceste elemente se revizuiesc.
Cum poate începe o firmă sau o instituție
Un început practic este alegerea unei activități limitate, cu rezultate ușor de verificat. Se pot folosi date de test și situații pregătite înaintea accesului la documente reale.
Evaluarea urmărește corectitudinea rezultatului și respectarea limitelor. Contează și timpul necesar verificării, nu doar viteza cu care agentul produce răspunsul.
Este utilă testarea unor documente incomplete sau contradictorii. Organizația poate observa dacă agentul cere clarificări și dacă se oprește când nu are aprobare.
Înaintea achiziției, trebuie verificate disponibilitatea funcțiilor, licențierea și compatibilitatea cu sistemele existente. Un anunț de produs nu dovedește eficiența în orice organizație.
Automatizare utilă, cu responsabilitate umană
Guardian Agents reprezintă direcția prezentată de Microsoft, nu promisiunea eliminării tuturor riscurilor. Rezultatele depind de implementare și verificare.
Pentru manageri, pașii practici sunt clari: o sarcină bine definită, acces limitat, un responsabil și aprobări pentru operațiunile importante. Astfel, automatizarea poate fi extinsă pe baza rezultatelor observate.
Citește și: AI și recrutarea juniorilor: ce arată studiul Anthropic
Sursă: Microsoft Security Blog, 19 octombrie 2026. Exemplele și recomandările de organizare reprezintă analiza editorială ROSUPERTOP.