Anthropic chiede ai principali attori dell’intelligenza artificiale di dotarsi di un freno comune. Non una pausa generica allo sviluppo dell’AI, ma un meccanismo coordinato per rallentare o sospendere temporaneamente i modelli più avanzati quando i rischi superano la capacità di governi, aziende e società di gestirli.
La società guidata da Dario Amodei sostiene che il problema non sia più solo la potenza dei modelli, ma la velocità con cui questi sistemi stanno entrando nello stesso processo di sviluppo dell’intelligenza artificiale. Il nodo è l’automiglioramento: modelli capaci di contribuire alla scrittura del codice, alla ricerca e alla progettazione delle versioni successive.
“Pensiamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale avanzata, in modo da permettere alla società di stare al passo con il progresso tecnologico”, ha scritto ieri Anthropic in un post sul suo blog.
Il coordinamento globale tra i leader dell’AI
L’idea di Anthropic è costruire un sistema che consenta ai principali sviluppatori di AI avanzata di rallentare, o fermare per un periodo limitato, determinate linee di sviluppo quando i rischi diventano troppo elevati.
Il punto riguarda soprattutto i modelli di frontiera, cioè i sistemi più potenti e più costosi, capaci di produrre effetti rilevanti su ricerca scientifica, cybersecurity, automazione, lavoro, difesa e sicurezza nazionale.
La società avverte che, in assenza di un coordinamento, nessun attore avrà un reale incentivo a fermarsi. Chi rallenta rischia di essere superato da chi continua. È il classico problema della corsa tecnologica: tutti vedono i rischi, ma nessuno vuole perdere il vantaggio competitivo.
Il rischio dell’auto-miglioramento: il codice di Claude sarà scritto da Claude stesso al 100% entro due anni
Anthropic richiama in particolare il rischio che i sistemi AI diventino sempre più capaci di contribuire al proprio sviluppo. Non si parla ancora di un’intelligenza artificiale completamente autonoma, ma di modelli che scrivono codice, migliorano strumenti, assistono i ricercatori e accelerano il ciclo di sviluppo delle versioni successive.
Il cofondatore Jack Clark ha spiegato alla BBC che Claude viene già sviluppato con un codice di cui circa l’80% è scritto dal sistema stesso. Secondo Clark, arrivare al 100% entro due anni è possibile e avrebbe implicazioni enormi.
Il punto è il passaggio da AI usata come strumento di supporto ad AI che diventa parte sempre più centrale della produzione di nuova AI. Per Anthropic, questa dinamica rende necessario dotarsi di un freno, non solo di un acceleratore.
Clark ha sintetizzato il problema così: oggi “il settore dell’AI ha solo un pedale dell’acceleratore, ma non quello del freno”.
La resistenza negli Stati Uniti
La proposta di Anthropic potrebbe incontrare forti resistenze negli Stati Uniti. Una parte del mondo politico e tecnologico americano considera qualsiasi rallentamento un rischio strategico, soprattutto nel confronto con la Cina.
Il timore è che una pausa nello sviluppo dei modelli più avanzati possa offrire a Pechino un vantaggio decisivo nella corsa all’AI. Per questo il coordinamento internazionale resta il punto più difficile: senza un accordo tra i principali attori globali, una pausa rischia di essere vista come un regalo ai rivali.
Il presidente Donald Trump ha però sostenuto di aver discusso con la Cina la possibilità di una cooperazione sull’intelligenza artificiale durante una recente visita a Pechino. Resta da capire se un dialogo politico possa tradursi in regole operative, soprattutto su una tecnologia ormai considerata strategica da governi e imprese.
Anche il Papa invita a mettere un “freno” all’AI
La richiesta di un freno all’AI avanzata arriva mentre anche Papa Leone XIV, nella sua prima enciclica Magnifica Humanitas, ha indicato la necessità di rallentare quando la tecnologia corre più della capacità politica e sociale di governarla.
“Non basta invocare genericamente l’etica”, scrive il Pontefice: servono “quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti e una politica che non abdichi al proprio compito”.
Il Papa chiarisce che chiedere “prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’AI” non significa essere contro il progresso, ma esercitare “una cura responsabile verso la famiglia umana”.
Nel suo intervento ha usato anche una formula netta: “disarmare l’intelligenza artificiale”, cioè liberarla “dalle logiche di dominio, di esclusione e di morte”, soprattutto negli usi militari e nei sistemi che possono incidere sui diritti e sulla dignità delle persone.
Il vero nodo è questo: sicurezza o pressione economica?
La proposta di Anthropic non convince del tutto. Non è detto che il punto sia “fermare l’AI” per ragioni puramente etiche. Un meccanismo coordinato di pausa o rallentamento potrebbe anche ridurre la pressione competitiva tra i grandi player, evitare una corsa insostenibile agli investimenti e consolidare le posizioni di chi è già avanti.
La domanda è legittima: quanto pesa davvero la sicurezza e quanto pesa la sostenibilità economica della corsa all’AI? Le grandi aziende del settore continuano ad attirare capitali e a registrare valutazioni elevate, ma il modello industriale resta costoso. Servono infrastrutture enormi, capacità di calcolo crescente e data center sempre più energivori. I ricavi aumentano, ma non è ancora chiaro se saranno sufficienti a sostenere nel lungo periodo il ritmo degli investimenti.
The post Anthropic chiede un freno globale sull’AI: “Rischio di auto-miglioramento”. Ma è davvero solo una questione di sicurezza? appeared first on Key4biz.
0 Commentaires