i quattro principi di AWS

Quando un agente AI può accedere a database, applicazioni aziendali e strumenti software, il problema non è più la qualità della risposta che produce. Il problema è quello che può fare. È da questa considerazione che parte la riflessione presentata da AWS al NIST, l’ente statunitense che sta raccogliendo contributi per definire le future linee guida sulla sicurezza dell’AI agentica. 

Nell’analisi firmata da Mark Ryland, Riggs Goodman III e Todd MacDermid, emerge una posizione molto chiara: la sicurezza non dovrebbe mai dipendere dal ragionamento di un agente AI, ma da controlli esterni che ne limitino concretamente le possibilità di azione.

È una presa di posizione che arriva mentre aziende e organizzazioni stanno sperimentando sistemi sempre più autonomi, capaci non solo di generare contenuti ma anche di eseguire operazioni, interrogare sistemi interni, utilizzare API e prendere decisioni operative.

Consigli di sicurezza by AWS: mai fidarsi (troppo) del modello AI

Tra i quattro principi individuati da AWS, ce n’è uno che emerge nettamente sugli altri: secondo l’azienda, i modelli linguistici AI non dovrebbero essere considerati strumenti di sicurezza.

Per quanto sofisticato, un LLM resta infatti un sistema probabilistico. Può essere istruito a rifiutare determinate richieste, a rispettare alcune regole o a non accedere a particolari informazioni. Ma quelle istruzioni non rappresentano una garanzia assoluta. Tecniche come il prompt injection possono aggirare questi meccanismi e portare l’agente a comportamenti indesiderati.

Per questo AWS sostiene che le regole fondamentali debbano stare fuori dal modello. Accessi consentiti, strumenti disponibili, dati raggiungibili e operazioni autorizzate devono essere definiti a livello infrastrutturale, attraverso controlli deterministici che il modello non possa modificare né aggirare.

Nella documentazione presentata al NIST questa architettura viene descritta come una “security box”: un livello di controllo attraverso cui passa qualsiasi interazione tra l’agente e il mondo esterno.

Gli agenti AI tendono ad amplificare problemi che già esistono

Un altro aspetto interessante della posizione AWS riguarda il rapporto tra AI e cybersecurity tradizionale. Nel documento non c’è alcuna teoria secondo cui l’AI agentica richiederebbe una sicurezza completamente nuova. Al contrario, AWS sostiene che i rischi già noti restano validi e, in alcuni casi, diventano persino più pericolosi.

Problemi come escalation dei privilegi, session hijacking, vulnerabilità della supply chain o code injection non scompaiono con gli agenti. Cambia piuttosto la loro scala. Un agente con autorizzazioni eccessive può infatti compiere in pochi secondi una quantità di operazioni che un essere umano impiegherebbe ore a completare.

Da qui l’insistenza sul principio del privilegio minimo, cioè concedere agli agenti soltanto gli accessi strettamente necessari. Un approccio che nella visione AWS diventa ancora più importante proprio perché gli agenti operano con una velocità e una continuità che non hanno equivalenti umani.

L’autonomia va guadagnata, non regalata

L’ultimo principio riguarda una questione destinata a diventare centrale nei prossimi anni: quanta autonomia concedere agli agenti AI.

La risposta di AWS è pragmatica. Nelle operazioni ad alto impatto — per esempio quelle che coinvolgono dati critici, transazioni finanziarie o informazioni sensibili — dovrebbe essere inizialmente una persona a prendere la decisione finale. L’agente suggerisce, l’essere umano approva.

Con il tempo, però, questa supervisione può ridursi. Se i dati mostrano che l’agente prende decisioni corrette e affidabili in uno specifico contesto, parte delle verifiche può essere automatizzata. Se invece emergono anomalie o comportamenti inattesi, la supervisione deve tornare immediatamente.

Più che una questione tecnologica, è una questione di fiducia misurabile. E il messaggio che arriva da AWS è piuttosto netto: l’autonomia non dovrebbe essere una caratteristica concessa per impostazione predefinita, ma un risultato da conquistare nel tempo attraverso verifiche continue, controlli esterni e limiti ben definiti.

Questa impostazione è molto più vicina a un magazine: apre subito con la tesi forte, elimina le formule tipo “nuova era”, “cambio di paradigma”, “l’obiettivo è”, e mette al centro il punto realmente interessante della notizia. Inoltre i grassetti accompagnano la lettura in ogni sezione.

Amazon Fire TV Stick HD (ultimo modello), TV gratuita e in diretta, telecomando vocale Alexa, alimentazione tramite TV, configurazione semplice, trova serie TV più velocemente con Alexa+

• Potenzia la tua TV in un batter d’occhio: Fire TV Stick HD è il nostro dispositivo per lo streaming in HD più veloce di sempre, con una navigazione semplificata che ti porta direttamente ai tuoi film, serie TV e TV in diretta. Porta il tuo intrattenimento sempre con te grazie al nuovo design ultra-portatile. E guarda i contenuti prendere vita con immagini nitide in Full HD e supporto Wi-Fi 6.
• La nuova esperienza Fire TV (versione 2026): il nostro più grande aggiornamento di Fire TV introduce un design nuovo e moderno che ti porta rapidamente ai tuoi contenuti di intrattenimento. Sfoglia categorie di contenuti dedicate, aggiungi più app ai preferiti e ricevi consigli personalizzati da Alexa+. Meno tempo a scorrere, più tempo a guardare.
• Tutte le tue app in un unico posto: Prime Video, Netflix, YouTube, Disney+, Raiplay, Mediaset Infinity, Timvision, Apple TV, HBO Max e migliaia di altre. È facile trovare cosa guardare tra centinaia di migliaia di film ed episodi TV, inclusi oltre migliaia di episodi di contenuti gratuiti con pubblicità. Potrebbero essere applicati costi di abbonamento.
• Il nostro lettore multimediale più portatile: sottile e leggero, senza ingombri extra. Si collega direttamente alla porta HDMI della TV senza bloccare le altre porte.
• Più facile che mai da configurare: grazie all’alimentazione diretta, il dispositivo è alimentato dalla tua TV con il cavo USB-C incluso, senza bisogno di un adattatore da parete.