Il Pentagono e Anthropic: uno scontro sulle salvaguardie dell'IA
Lo stallo del Pentagono con Anthropic: etica dell'IA contro sicurezza nazionale. Per decenni, l'idea che l'intelligenza artificiale prendesse decisioni militari autonome apparteneva saldamente al regno della fantascienza. Oggi, quella finzione si avvicina alla realtà, creando uno stallo teso tra il Dipartimento della Difesa degli Stati Uniti e Anthropic, un importante sviluppatore di IA. Al centro di questo conflitto ci sono non solo la tecnologia, ma domande fondamentali sull'etica, la responsabilità e la natura stessa della sicurezza nazionale nell'era dell'IA avanzata.
Fonte: Illustrazione originale
Breve riassunto della disputa
- Conflitto principale: Il Dipartimento della Difesa degli Stati Uniti (Pentagono) richiede l'uso illimitato del modello IA Claude di Anthropic per scopi militari, mentre Anthropic insiste nel mantenere rigorose misure di sicurezza.
- Posizione del Pentagono: Ritiene che Anthropic non debba avere voce in capitolo su come i suoi prodotti vengano utilizzati dai militari per "tutti gli scopi leciti". Minaccia conseguenze gravi se Anthropic non si conforma.
- "Linee rosse" di Anthropic: Si rifiuta di consentire che la sua IA venga utilizzata per operazioni cinetiche completamente autonome (l'IA che prende le decisioni di targeting finali senza intervento umano) o per la sorveglianza di massa interna.
- Minacce dal Pentagono: Include la cancellazione del contratto da 200 milioni di dollari con Anthropic, la sua classificazione come "rischio per la catena di approvvigionamento" e la potenziale invocazione del Defense Production Act.
- Posizione di Anthropic: Il CEO Dario Amodei afferma che l'azienda preferirebbe rinunciare alla collaborazione piuttosto che accettare utilizzi che "minano i valori democratici". Le trattative non hanno fatto "praticamente alcun progresso".
- Implicazioni più ampie: La disputa evidenzia la tensione critica tra il vantaggio tecnologico nella difesa nazionale e le considerazioni etiche dell'IA avanzata, potenzialmente stabilendo precedenti per la futura governance dell'IA.
La richiesta del Pentagono di un uso illimitato dell'IA
Il Dipartimento della Difesa degli Stati Uniti (spesso indicato come Dipartimento di Guerra, una designazione secondaria ai sensi di un ordine esecutivo di settembre del presidente degli Stati Uniti Donald Trump) è bloccato in una disputa in rapida escalation conAnthropic. Il conflitto ruota attorno al modello IA Claude di Anthropic e all'insistenza del Pentagono sul suo uso illimitato per applicazioni militari.
Fonte: caribbeannewsglobal.com
Il Segretario alla Difesa degli Stati Uniti Pete Hegseth ha consegnato un ultimatum al CEO di Anthropic, chiedendo all'azienda di consentire il dispiegamento illimitato della sua tecnologia IA per tutti i "scopi leciti".
Il Segretario alla Difesa degli Stati Uniti Pete Hegseth ha consegnato un ultimatum al CEO di Anthropic, Dario Amodei, chiedendo all'azienda di consentire il dispiegamento illimitato della sua tecnologia IA per tutti i "scopi leciti" entro un ultimatum di venerdì sera. Hegseth ha minacciato questo durante unTuesday meeting with Amodei.
La posizione del Pentagono è chiara: ritiene che Anthropic non debba avere voce in capitolo su come i suoi prodotti vengano utilizzati dai militari. Questa richiesta non è unica per Anthropic; il Dipartimento della Difesa mira a rendere disponibili modelli IA da vari fornitori per "tutti gli usi leciti" in ambienti classificati, uno standard di cui xAI di Elon Musk ha recentementeaccepted for classified work. Le trattative stanno anche accelerando per integrare modelli di OpenAI e Google in queste operazioni classificate.
Le linee rosse di Anthropic: Armi autonome e sorveglianza di massa
Anthropic, nota per la sua costante posizione di sviluppatore di IA attento alla sicurezza, mantiene rigorose "linee rosse" riguardo all'applicazione della sua tecnologia. Queste includono divieti sull'uso della sua IA in operazioni cinetiche autonome in cui gli strumenti IA prendono le decisioni di targeting militari finali senza intervento umano. Un altro confine critico è l'uso di strumenti Anthropic per la sorveglianza di massa interna dei cittadini americani.
L'azienda afferma che l'IA non è ancora sufficientemente affidabile per operare armi completamente autonome e che attualmente non esistono leggi o regolamenti adeguati che governino l'IA nella sorveglianza di massa. Il CEO di Anthropic Dario Amodei ha articolato la posizione dell'azienda, affermando che la sua organizzazione preferirebbe rinunciare alla collaborazione con il Pentagono piuttosto che accettare utilizzi che "minano i valori democratici piuttosto che difenderli". Ha sottolineato che tali applicazioni non facevano mai parte dei loro precedenti contratti con il Dipartimento di Guerra e non dovrebbero esserlo ora.
❝ semplicemente non abbastanza affidabile ❞
CEO, Anthropic
Fonte: healthevolution.com
Dario Amodei, CEO di Anthropic, ha pronunciato la posizione dell'azienda, affermando che la sua organizzazione preferirebbe rinunciare alla collaborazione piuttosto che accettare utilizzi che "minano i valori democratici".
Amodei ha elaborato queste preoccupazioni in un post sul blog aziendale, spiegando che l'IA può sintetizzare dati disparati in profili completi di individui su larga scala. Ha sottolineato il supporto all'IA in missioni lecite di intelligence estera e controspionaggio, ma ha considerato il suo uso per la sorveglianza di massa interna incompatibile con i valori democratici. Riguardo alle armi autonome, Amodei ha avvertito che anche i sistemi IA più avanzati sono "simply not reliable enough" e potrebbero mettere in pericolo soldati e civili americani senza un'adeguata supervisione e salvaguardie che ancora non esistono. Anthropic aveva in precedenza offerto di collaborare con il Dipartimento di Guerra alla ricerca e sviluppo per migliorare l'affidabilità dei sistemi, ma l'offerta non è stata accettata.
Conseguenze e una crescente crisi di fiducia
Se Anthropic non dovesse rispettare le richieste del Pentagono, Hegseth ha minacciato gravi rappresaglie. Queste includono la potenziale cancellazione del contratto da 200 milioni di dollari di Anthropic e la classificazione dell'azienda come "rischio per la catena di approvvigionamento". Tale classificazione metterebbe effettivamente Anthropic in una lista nera, impedendo ad altre aziende con contratti militari di utilizzare i suoi prodotti nel loro lavoro di difesa. Questa designazione è tipicamente riservata a entità considerate estensioni di avversari stranieri, come Russia o Cina, come esplorato inthis analysis. Hegseth ha anche dichiarato che garantirà l'applicazione del Defense Production Act, che potrebbe costringere i dirigenti di Anthropic a concedere al Pentagono un uso illimitato per scopi di sicurezza nazionale, secondoLawfare Media.
Nonostante queste gravi minacce, Anthropic ha confermato giovedì che le trattative con il Pentagono non hanno fatto "praticamente alcun progresso". Amodei ha dichiarato che l'azienda non poteva accettare ciò che i funzionari della difesa presentavano come la loro"final offer" concerning AI safety protocols. Anthropic ha sottolineato che il linguaggio contrattuale ricevuto dal Dipartimento di Guerra offriva ancora "praticamente alcun progresso verso la prevenzione dell'uso di Claude per la sorveglianza di massa degli americani o in armi completamente autonome". Inoltre, una nuova formulazione presentata come compromesso includeva clausole legali che avrebbero permesso a queste salvaguardie di essere ignorate a volontà.
❝ Indipendentemente da ciò, queste minacce non cambiano la nostra posizione: non possiamo in buona coscienza accettare la loro richiesta. ❞CEO, Anthropic
La disputa crescente ha rivelato un significativo deterioramento della fiducia tra le due parti. Mentre il funzionario del Pentagono che negoziava con Anthropic, Emil Michael, definiva Amodei un "bugiardo" con un "complesso di Dio" che metteva a repentaglio la sicurezza nazionale, Amodei ha replicato che le minacce erano "intrinsecamente contraddittorie", definendo contemporaneamente Anthropic un rischio per la sicurezza e Claude essenziale per la sicurezza nazionale. Ha affermato: "Indipendentemente da ciò, queste minacce non cambiano la nostra posizione: non possiamo in buona coscienza accettare la loro richiesta."
❝ bugiardo ❞
Funzionario del Pentagono
La posizione di Anthropic come azienda di IA focalizzata sulla sicurezza è stata oggetto di scrutinio, in particolare dopo che sono emerse segnalazioni che i militari statunitensi hanno utilizzato il suo modello IA Claude in un'operazione di gennaio per arrestare l'ex presidente venezuelano Nicolás Maduro. Mentre Anthropic è stata la prima azienda di IA all'avanguardia a dispiegare i suoi modelli in reti classificate e a personalizzarli per clienti di sicurezza nazionale, il modello Claude sarebbe stato impiegato nell'operazione Maduro tramite un contratto con Palantir. Questa situazione ha aggiunto un ulteriore livello di complessità alle discussioni in corso.
Fonte: deviantart.com
La posizione di Anthropic è stata oggetto di scrutinio dopo segnalazioni che i militari statunitensi hanno utilizzato il suo modello IA Claude in un'operazione di gennaio per arrestare l'ex presidente venezuelano Nicolás Maduro.
FAQ: Disputa IA Anthropic vs. Pentagono
Qual è il disaccordo principale tra Anthropic e il Pentagono?
Il Pentagono richiede l'uso illimitato del modello IA Claude di Anthropic per tutti gli "scopi leciti" nelle applicazioni militari. Anthropic, tuttavia, insiste nel mantenere rigorose misure di sicurezza, in particolare contro l'uso in armi completamente autonome e sorveglianza di massa interna.
Quali "linee rosse" ha stabilito Anthropic per la sua tecnologia IA?
Anthropic ha due principali "linee rosse": impedire che la sua IA venga utilizzata in operazioni cinetiche autonome in cui l'IA prende le decisioni di targeting militari finali senza intervento umano, e impedirne l'uso per la sorveglianza di massa interna dei cittadini americani.
Quali sono le potenziali conseguenze se Anthropic non si conforma?
Il Pentagono ha minacciato di cancellare il contratto da 200 milioni di dollari di Anthropic, classificare l'azienda come "rischio per la catena di approvvigionamento" (mettendola di fatto in una lista nera dal lavoro relativo ai militari) e potenzialmente invocare il Defense Production Act per costringere alla conformità.
L'IA di Anthropic è già stata utilizzata dai militari?
Sì, le segnalazioni indicano che il modello IA Claude di Anthropic è stato utilizzato dai militari statunitensi in un'operazione di gennaio per arrestare l'ex presidente venezuelano Nicolás Maduro, presumibilmente tramite un contratto con Palantir. Ciò ha aggiunto complessità alla disputa in corso.
Conclusione
Lo stallo tra il Pentagono e Anthropic evidenzia una tensione critica: il desiderio di vantaggio tecnologico nella difesa nazionale contro le considerazioni etiche e di sicurezza inerenti allo sviluppo dell'IA avanzata. Allo scadere del termine, Anthropic è rimasta al tavolo delle trattative, ma con lacune significative. Amodei ha indicato la disponibilità a facilitare una transizione agevole verso un altro fornitore qualora il Pentagono decidesse di interrompere i rapporti. Questo conflitto stabilirà probabilmente precedenti su come le aziende IA interagiscono con enti governativi e militari, plasmando il futuro dell'etica dell'IA, della sicurezza nazionale e dei confini della responsabilità tecnologica.