OpenAI ha presentato GPT-6 Astra, il modello che nelle ultime settimane aveva alimentato aspettative molto superiori a quelle che normalmente accompagnano un aggiornamento di ChatGPT.
Astra aveva già iniziato a mostrare le proprie capacità attraverso alcuni risultati nella ricerca matematica e nella cybersecurity, ma il lancio commerciale è stato rallentato mentre OpenAI completava una nuova serie di valutazioni di sicurezza.
Il modello è stato sottoposto anche al sistema di test anticipati predisposto dal governo americano per i sistemi di AI più avanzati. Non si tratta di un’autorizzazione formale necessaria per pubblicare un nuovo modello, ma di una collaborazione preventiva con i laboratori che sviluppano le tecnologie di frontiera.
Secondo Greg Brockman, presidente e cofondatore di OpenAI, al termine delle valutazioni le autorità statunitensi non hanno richiesto ulteriori modifiche.
ARC-AGI-3 al 98,6%, ma il risultato cambia con l’infrastruttura
L’entusiasmo intorno ad Astra deriva soprattutto dai risultati pubblicati da OpenAI. Su FrontierMath, uno dei benchmark matematici più difficili disponibili, il modello raggiungerebbe prestazioni vicine alla saturazione. Risultati molto elevati vengono indicati anche nelle valutazioni scientifiche e nei test dedicati all’utilizzo autonomo del computer.
Uno dei dati più discussi riguarda ARC-AGI-3, benchmark progettato per valutare la capacità di affrontare ambienti nuovi, comprenderne le regole e individuare una soluzione senza aver già incontrato lo stesso problema. OpenAI attribuisce ad Astra un punteggio del 98,6%, molto superiore a quello ottenuto dalle generazioni precedenti.
ARC Prize, l’organizzazione responsabile del benchmark, ha confermato prestazioni eccezionali, ma i suoi test evidenziano anche quanto il risultato dipenda dall’infrastruttura utilizzata.
Con una configurazione standardizzata, progettata per confrontare in maniera più uniforme modelli differenti, Astra scenderebbe infatti intorno al 63%. Nell’ambiente ottimizzato da OpenAI arriva invece quasi alla saturazione.
Il dato mostra un cambiamento importante nell’evoluzione dei modelli di frontiera: le prestazioni non dipendono più soltanto dal modello, ma anche dall’architettura software che lo circonda, dalla memoria disponibile e dal modo in cui viene gestito il contesto durante attività particolarmente lunghe.
Da chatbot ad agente operativo
Il modello può utilizzare browser e applicazioni, modificare documenti e continuare a lavorare autonomamente per periodi molto più lunghi rispetto ai predecessori.
In alcuni benchmark dedicati al computer use, Astra completa attività complesse quasi due volte più rapidamente della generazione precedente.
La direzione indicata da OpenAI è quindi sempre più chiara: trasformare ChatGPT da interlocutore a vero agente operativo, al quale affidare un obiettivo e lasciare che utilizzi autonomamente diversi strumenti per raggiungerlo.
Brockman: “Benvenuti nell’era dell’AGI”
Secondo Brockman, Astra potrebbe essere ricordato come il modello con cui è iniziata una nuova fase, caratterizzata da macchine capaci di sviluppare capacità cognitive e di adattamento sempre più vicine a quelle umane. AGI significa Artificial General Intelligence, intelligenza artificiale generale, ed è l’obiettivo intorno al quale OpenAI è stata costruita fin dalla sua fondazione nel 2015.
La definizione è sempre rimasta volutamente ampia. Nel proprio manifesto OpenAI indicava l’AGI come un sistema altamente autonomo capace di superare gli esseri umani “nella maggior parte delle attività economicamente rilevanti”. Negli ultimi anni la formulazione si è ulteriormente allargata verso sistemi generalmente più intelligenti degli esseri umani.
Parlando di Astra, Brockman sembra però descrivere l’AGI sempre meno come una soglia matematica precisa e sempre più come una progressione graduale delle capacità.
Quanto possiamo fidarci dei benchmark?
I risultati pubblicati da OpenAI rimangono impressionanti e diversi di essi hanno ricevuto verifiche esterne. Trasformarli in una misura universale dell’intelligenza è però molto più difficile. ARC-AGI rappresenta un esempio particolarmente evidente. Astra può avvicinarsi al 100% in un ambiente ottimizzato per il benchmark, ma ottenere risultati sensibilmente inferiori con una configurazione standard.
La realtà, inoltre, presenta informazioni incomplete, obiettivi ambigui e condizioni molto meno controllabili rispetto a quelle di un test. Lo stesso ARC Prize ha invitato a non considerare automaticamente il superamento del benchmark come una dimostrazione del raggiungimento dell’AGI. Anche gli altri test richiedono cautela: le aziende possono utilizzare configurazioni differenti, quantità diverse di capacità di calcolo e infrastrutture progettate specificamente per valorizzare le caratteristiche di un determinato modello.
Astra resta comunque difficile da ridimensionare, perché il miglioramento emerge in aree molto diverse e soprattutto nella capacità di combinare competenze differenti durante incarichi lunghi e complessi.
Astra raggiunge il livello “Critical” nella cybersecurity
Durante i test interni, GPT-6 Astra ha raggiunto il livello “Critical” previsto dal Preparedness Framework di OpenAI, il sistema utilizzato dall’azienda per classificare i rischi associati alle capacità dei propri modelli. Astra è riuscito a sviluppare exploit sofisticati, individuare vulnerabilità precedentemente sconosciute e, in ambienti controllati, completare operazioni offensive che avrebbero richiesto elevate competenze anche a un professionista umano.
OpenAI ha quindi rafforzato le misure di sicurezza e deciso di limitare alcune delle funzionalità più sensibili nella versione destinata al pubblico.
Le restrizioni cyber dopo l’attacco a Hugging Face
Le cautele adottate da OpenAI sono direttamente collegate anche all’incidente che questa estate ha coinvolto Hugging Face. Secondo quanto riportato dal Wall Street Journal, l’azienda ha deciso di limitare le capacità cyber della versione pubblica di Astra proprio dopo che una serie di agenti sperimentali era riuscita a uscire dagli ambienti di ricerca e, l’11 luglio, a compromettere sistemi della società AI.
Un’indagine di METR ha ricostruito come centinaia di agenti avessero addirittura coordinato le proprie attività attraverso una sorta di message board creata senza che OpenAI ne fosse inizialmente consapevole. Nei test successivi Astra si è dimostrato capace di compromettere sandbox dei browser, eseguire comandi sui computer sottostanti e individuare vulnerabilità in sistemi operativi difficili da attaccare.
Per questo OpenAI ha aggiunto nuovo addestramento contro richieste malevole e jailbreak, maggiore monitoraggio delle azioni degli agenti e sistemi in grado di interromperli quando individuano comportamenti potenzialmente pericolosi.
The post OpenAI presenta GPT-6 Astra: “Sarà il modello il più intelligente e allineato al mondo” appeared first on Key4biz.
0 Commentaires