Nel giro di un mese due voci lontanissime convergono sullo stesso punto: il futuro dell'intelligenza artificiale si gioca sulla governance.
Nel giro di poche settimane, due testi usciti da mondi che non potrebbero essere più distanti hanno detto sostanzialmente la stessa cosa sull'intelligenza artificiale. Il primo è il nuovo intervento di Dario Amodei, fondatore di Anthropic, una delle aziende che questi sistemi li costruiscono. Il secondo è la prima enciclica di papa Leone XIV. Entrambi spostano l'attenzione da quanto l'AI sia potente a una domanda più scomoda e più concreta: chi la governa, con quali regole, dentro quali limiti.
È un cambio di prospettiva che vale la pena osservare da vicino, soprattutto per chi in azienda sta valutando o già usando queste tecnologie. Per molto tempo il dibattito si è concentrato sulle prestazioni, sulle nuove capacità di ogni release, sulla promessa di automatizzare sempre di più. Quel racconto resta dominante, ma accanto è cresciuto un filone diverso, fatto da chi prova a capire come si tiene insieme una tecnologia che cambia molto più in fretta di quanto le organizzazioni e le istituzioni riescano a seguire.
In questo articolo mettiamo a confronto i due contributi, vediamo dove si toccano e proviamo a tradurre il discorso in qualcosa di utile per un'impresa che deve decidere come adottare l'AI senza improvvisare.
Il punto di partenza di Amodei è una constatazione semplice. L'intelligenza artificiale avanza a una velocità che il sistema politico e normativo non è in grado di reggere. Per descriverlo usa un'immagine presa dal Signore degli Anelli: gli alberi senzienti così lenti da impiegare un giorno intero solo per salutarsi, mentre intorno la foresta viene abbattuta. Le istituzioni ragionano in anni, l'AI cambia in mesi, e questo divario è il vero problema da affrontare.
Il suo saggio, intitolato Policy on the AI Exponential, non promette nuove capacità dei modelli. È quasi interamente dedicato alle regole che servirebbero per gestirli. Amodei propone di trattare l'AI di frontiera come trattiamo gli aerei o i farmaci: tecnologie preziose, essenziali per l'economia, capaci però di fare danni enormi se progettate o usate male. Da qui l'idea di un'autorità simile alla Federal Aviation Administration americana, con test obbligatori affidati a soggetti indipendenti prima che un modello venga rilasciato.
I controlli, nella sua proposta, si concentrano su quattro aree di rischio precise: la cybersicurezza, le armi biologiche, la perdita di controllo dei sistemi e la capacità dell'AI di accelerare in autonomia la propria ricerca. Se un modello non supera quelle verifiche, l'autorità pubblica deve poterne fermare la diffusione. Amodei aggiunge un dettaglio che molti nel settore preferiscono non nominare: i contrappesi devono valere tanto per i governi quanto per le aziende, perché una tecnologia così potente non può essere affidata con tranquillità né agli uni né alle altre.
C'è anche un'evoluzione nel suo ragionamento. Fino a poco tempo fa la linea di Anthropic, e di chi voleva regolare l'AI con prudenza, era la trasparenza: obbligare le aziende a dichiarare i test svolti e gli incidenti, in attesa di capire dove fossero i rischi concreti. Oggi Amodei sostiene che quella fase è superata, perché i rischi non sono più ipotetici ma documentati, ed è il momento di passare a regole vincolanti.
A colpire, più del contenuto delle proposte, è chi le firma. A chiedere regole stringenti è il fondatore di un'azienda che quella tecnologia la sviluppa e la vende. In un mercato che di solito vede la regolamentazione come un freno, è una posizione da prendere sul serio. Amodei la motiva senza giri di parole: rifiuta l'idea, diffusa nel settore, che la preoccupazione del pubblico sia un problema di comunicazione da risolvere con più marketing. Le persone, scrive, hanno ragione a preoccuparsi, e quella preoccupazione è il segno che il controllo democratico sta funzionando.
A poche settimane di distanza, lo stesso nodo è stato sollevato da una voce che con la Silicon Valley non ha nulla da spartire. Il 15 maggio papa Leone XIV ha firmato la sua prima enciclica, Magnifica Humanitas, dedicata alla custodia della persona umana nel tempo dell'intelligenza artificiale. La data non è casuale: cade nel 135esimo anniversario della Rerum Novarum di Leone XIII, il documento che a fine Ottocento affrontò la questione sociale della rivoluzione industriale. Il parallelo è voluto. L'AI viene letta come la trasformazione che oggi rimette alla prova la dignità del lavoro e della persona. Lo stesso papa riassume la posta in gioco con un'immagine netta: l'umanità può innalzare una nuova torre di Babele oppure costruire una città in cui abitare insieme.
Il punto di partenza dell'enciclica è diverso da quello di Amodei: che cosa significhi restare umani quando le macchine prendono decisioni al posto nostro. Eppure, partendo da lì, arriva sugli stessi temi concreti. Leone XIV mette in guardia contro i sistemi d'arma autonomi capaci di decidere della vita e della morte senza un adeguato controllo umano, e ribadisce che nessuna macchina può sostituire la responsabilità morale di una persona. È quasi lo stesso terreno su cui si muove Amodei quando chiede supervisione umana e contrappesi sulle decisioni più delicate.
Anche sul lavoro le due voci finiscono per avvicinarsi. L'enciclica non si ferma al timore dell'automazione e della perdita di posti. Richiama l'attenzione sulle nuove forme di sfruttamento dell'economia digitale, a partire dai lavoratori sottopagati che alimentano e addestrano i sistemi di intelligenza artificiale, una parte del processo che di solito resta invisibile. Dal canto suo Amodei tratta la perdita di lavoro come un esito da ridurre e non da celebrare, e propone strumenti per accompagnare chi viene spiazzato. Linguaggi diversi, stessa direzione: il lavoro torna al centro come questione di persone, prima che di efficienza.
Che i due piani non siano poi così lontani lo dice un dettaglio della presentazione. In Vaticano, tra i relatori chiamati a illustrare l'enciclica, c'era anche un cofondatore di Anthropic, responsabile della ricerca sull'interpretabilità dei modelli. I due mondi che sembravano parlare lingue diverse si sono ritrovati allo stesso tavolo. Quando una delle istituzioni più antiche dell'Occidente e una delle aziende che costruiscono questo futuro arrivano a conclusioni simili, vale la pena chiedersi se sia davvero un caso.
Tutto questo può sembrare un discorso da addetti ai lavori o da filosofi, lontano dalla vita di un'azienda. È l'esatto contrario. La questione della governance riguarda in modo molto pratico chiunque stia introducendo l'AI nei propri processi, perché stabilisce chi è responsabile di ciò che il sistema produce.
Quando si adotta una nuova tecnologia la tentazione è valutarla solo per quello che mostra subito. Quanto è veloce, quante richieste gestisce, quanto migliora la visibilità nei motori di ricerca e negli assistenti conversazionali. Sono metriche legittime, però fotografano solo una parte. Restano fuori le domande che le due voci di cui abbiamo parlato mettono al centro: chi decide come il sistema viene usato, come si verifica che faccia ciò che deve, chi risponde quando qualcosa va storto. In azienda non sono questioni astratte. Diventano scelte su quali dati alimentano i modelli, su quali decisioni restano in mano a una persona, su come si tiene traccia di ciò che l'AI suggerisce o esegue.
L'obiettivo di una buona governance è rendere l'adozione dell'AI sostenibile nel tempo, senza le sorprese spiacevoli che arrivano quando un'automazione produce un errore o quando un cliente chiede conto di una decisione presa da un algoritmo. Comporta anche un criterio in più nella scelta dei fornitori: non basta sapere quanto è capace il loro modello, conta quanto seriamente trattano sicurezza, tracciabilità e presidio umano. È proprio questo criterio a distinguere oggi chi ha una visione matura da chi vende soltanto potenza.
Qui sta il senso del confronto tra Amodei e l'enciclica. Da posizioni opposte, entrambi dicono che la stagione dell'entusiasmo senza domande sta finendo. Amodei, in un altro suo saggio, la chiama l'uscita dall'adolescenza della tecnologia. Per un'impresa vuol dire smettere di guardare l'AI come una promessa di capacità illimitata e iniziare a trattarla per quello che è: un'infrastruttura potente, da progettare e governare con la stessa cura che mettiamo in tutto ciò che incide sul lavoro delle persone. La tecnologia, su questo, è già più avanti delle domande che le poniamo. Ricomporre quel divario è il lavoro che ci aspetta, e non è un lavoro soltanto tecnico.
Cosa si intende per governance dell'AI in azienda?
È l'insieme di regole, ruoli e controlli che stabiliscono chi decide come l'AI viene usata, come si verifica il suo operato e chi risponde dei risultati. Riguarda dati, supervisione umana e tracciabilità delle decisioni, non solo la scelta del modello.
Costruire governance significa rallentare l'adozione dell'AI?
No. Significa adottarla in modo che regga nel tempo. Una buona governance evita errori costosi e situazioni in cui nessuno sa spiegare una decisione presa da un sistema automatico. È un investimento sulla solidità, non un freno alla velocità.
L'enciclica e il saggio di Amodei dicono davvero la stessa cosa?
Non esattamente. Partono da preoccupazioni diverse, la dignità della persona da un lato, il rischio sistemico dall'altro. Convergono però su un punto: serve un controllo umano chiaro e regole condivise prima che l'AI sfugga al governo di chi la usa.
Da dove parte un'azienda che vuole adottare l'AI in modo maturo?
Da tre domande su ogni progetto: chi decide, come si verifica il risultato, chi risponde se qualcosa va storto. Definire queste responsabilità prima di estendere l'uso dell'AI è il primo passo concreto di governance.