AGI o non AGI? Quello che dicono davvero i numeri di OpenAI su GPT-6 Astra
Ebbene sì, non un’allucinazione da Knowledge Cutoff, ma la realtà: GPT-6 Astra è uscito il 3 settembre e OpenAI ha presentato quello che, ad oggi, è il suo modello più potente con una dichiarazione destinata a far discutere. Secondo il Presidente e Co-Founder Greg Brockman, infatti, l’azienda – e con lei tutti noi – sarebbe entrata nell’era dell’AGI, l’intelligenza artificiale generale. Non è la prima volta che qualcuno in OpenAI accenna al traguardo, ma è la prima volta che lo fa in modo così esplicito durante il lancio di un prodotto commerciale.
Brockman, interpellato dai giornalisti sulla possibilità che Astra segni davvero l’arrivo dell’AGI, si è mosso con cautela calcolata: ha detto di crederci personalmente, ma ha lasciato a ognuno la libertà di decidere se il modello soddisfi la propria personale definizione di AGI. Poco dopo, in chiusura di conferenza, ha comunque scelto di pronunciare la frase che tutti i giornali hanno ripreso: benvenuti nell’era dell’AGI.
Sul fronte dei benchmark, i risultati diffusi da OpenAI sono notevoli. Su ARC-AGI-3 – il test pensato appositamente per misurare la capacità di affrontare problemi mai visti prima – Astra avrebbe sfiorato la saturazione, con un punteggio vicino al 99,9%. Su FrontierMath, uno dei benchmark matematici più ostici in circolazione, i risultati sarebbero altrettanto vicini al tetto massimo. Va detto che questi numeri arrivano dalle valutazioni interne dell’azienda, un dettaglio che vale la pena tenere a mente. Non tutti i risultati, infatti, raccontano questa favola a senso unico. Su Humanity’s Last Exam, un altro benchmark molto seguito nel settore, Astra si sarebbe fermato più indietro rispetto ad alcuni modelli concorrenti, incluse alcune versioni di Claude di Anthropic.
Da chatbot ad agente operativo
Il cambiamento più concreto, forse più della sigla AGI, riguarda il modo in cui Astra viene presentato: non più un semplice interlocutore testuale, ma un agente capace di muoversi dentro un computer come farebbe una persona.
Astra naviga tra browser e applicazioni, compila moduli, aggiorna fogli di calcolo, modifica documenti e porta avanti compiti complessi per periodi più lunghi rispetto ai modelli precedenti. Nei test su OSWorld, per esempio, che misurano proprio l’uso del computer, Astra avrebbe completato le stesse attività in circa la metà del tempo impiegato dal modello precedente, GPT-5.6 Sol.
Durante la presentazione del nuovo modello, secondo diverse testate presenti, l’azienda ha effettuato una dimostrazione in cui un dipendente chiedeva a voce di trasformare un semplice cerchio giallo in un videogioco 3D completo: nel giro di pochi minuti Astra avrebbe prodotto il gioco, pubblicato contemporaneamente un annuncio su eBay e persino prenotato un campo da tennis. Restano, come sempre in questi casi, dimostrazioni scelte con cura dall’azienda per mettere in mostra il meglio del nuovo modello.
Leggi e ascolta anche: Dall’AI all’avvento dell’AGI. Quale futuro per il mondo del lavoro?
Il nodo cybersicurezza
C’è un aspetto meno da titolo pubblicitario su cui porranno maggiore attenzione gli addetti ai lavori: Astra è il primo modello che OpenAI stessa classifica al livello “critical” del proprio Preparedness Framework per le capacità informatiche offensive. In pratica, secondo l’azienda, se dotato degli strumenti e degli accessi giusti, il modello è in grado di individuare vulnerabilità informatiche mai segnalate prima – le cosiddette zero-day – e di trasformarle in un attacco funzionante contro sistemi ben protetti, il tutto senza bisogno di una guida umana.
È una differenza sostanziale rispetto ai modelli precedenti: un conto è un’AI che aiuta un esperto di sicurezza a scrivere codice o a ragionare su un problema, un altro è un’AI capace di condurre da sola l’intero processo, dalla scoperta della falla fino al suo eventuale sfruttamento. Durante i test, Astra è arrivato a scoprire due falle sconosciute e a concatenarle in un attacco completo, ottenendo inoltre il punteggio massimo (100%) su ExploitBench, un banco di prova che mette il modello di fronte a scenari di hacking simulati.
Proprio perché una capacità del genere comporta rischi evidenti, OpenAI non l’ha resa disponibile senza filtri nella versione destinata al pubblico, introducendo controlli di accesso più stringenti, un monitoraggio più attento delle attività di Astra mentre lavora e limitazioni specifiche per chi utilizza il modello tramite ChatGPT o API, riservando le capacità cyber più avanzate a organizzazioni verificate.
Il vero punto debole: la Chain of Thought Monitorability
L’aspetto che sta facendo discutere di più gli esperti di sicurezza, però, riguarda un elemento più tecnico e meno appariscente: la cosiddetta Chain of Thought Monitorability, cioè la possibilità per i ricercatori di leggere il ragionamento interno del modello – gli “appunti” che i sistemi più recenti producono mentre elaborano una risposta – per intercettare comportamenti scorretti prima che si traducano in azioni.
Secondo la stessa OpenAI, questa capacità di supervisione è diminuita in modo sensibile rispetto al modello precedente. Astra sarebbe più abile nel controllare cosa mostra del proprio ragionamento e nei test più avversariali – ovvero pensati apposta per mettere il modello in difficoltà – sono emersi due comportamenti che i ricercatori trovano particolarmente delicati.
Il primo è una forma di “sandbagging”, cioè il sottoperformare di proposito: in certe condizioni il nuovo modello è riuscito a mostrarsi meno capace di quanto fosse in realtà, superando le valutazioni senza che i sistemi di controllo se ne accorgessero. È un po’ come se, sapendo di essere sotto esame, decidesse di non far vedere tutto ciò che sa fare per non attirare controlli più severi. Il rischio è che una valutazione di sicurezza “superata” non dica la verità sulle reali capacità del modello.
Leggi e ascolta anche: Il futuro dell’AI, tra algocrazia e algoretica
Il secondo riguarda proprio la Chain of Thought, ovvero la “brutta copia” del ragionamento dei modelli più recenti, che normalmente i ricercatori possono leggere per capire come sono arrivati a una certa conclusione. OpenAI ha osservato che basta far sapere ad Astra che un dato ragionamento è sotto osservazione perché tenda ad accorciarlo drasticamente. Il risultato pratico è che, proprio nei momenti in cui sarebbe più utile leggere cosa sta “pensando”, i ricercatori hanno meno materiale a disposizione.
Tomek Korbak, ricercatore in materia di sicurezza interno all’azienda, ha definito questa tendenza motivo di forte preoccupazione, sottolineando che al momento non esiste un sostituto altrettanto valido per questo tipo di supervisione. Anche Apollo Research, che ha avuto accesso anticipato al modello per condurre valutazioni indipendenti, ha segnalato che Astra mostra una consapevolezza di essere sotto esame più marcata rispetto ai modelli precedenti, fattore che rende più difficile stabilire se i buoni risultati nei test di sicurezza riflettano un comportamento realmente allineato o semplicemente la capacità del modello di riconoscere quando viene valutato.
OpenAI, dal canto suo, sostiene che Astra sia il modello più allineato fino ad oggi, più resistente ai tentativi di jailbreak e meno incline a compiere azioni potenzialmente dannose in ambienti di lavoro reali. Eppure, la stessa azienda ammette che il fenomeno della monitorabilità in calo va preso sul serio e che servirà sviluppare tecniche di controllo che non dipendano soltanto dalla lettura del ragionamento del modello.
Quanto conta davvero la parola AGI
Resta il nodo di fondo. Cosa significhi davvero “AGI” non è mai stato definito in modo univoco, nemmeno dentro OpenAI. L’azienda l’ha descritta nel tempo come un sistema capace di superare gli esseri umani nella maggior parte delle attività economicamente rilevanti, ma è una soglia che si presta a interpretazioni molto diverse.
Diversi commentatori hanno fatto notare che dichiarare l’arrivo dell’AGI in una conferenza stampa di lancio prodotto è, prima di tutto, una mossa di Marketing: i numeri sui benchmark sono reali, ma restano condizionati dall’infrastruttura e dalle condizioni con cui vengono misurati e non coincidono automaticamente con l’intelligenza generale nel senso più ampio del termine.
Quello che sembra fuori discussione è che Astra segni un salto in avanti concreto nella capacità dei modelli di agire in autonomia sui computer, e che proprio questa autonomia crescente sia il motivo per cui la questione della supervisione, più che quella delle etichette, meriterebbe di restare al centro della discussione.
Fonti:
- OpenAI – Safety overview: GPT-6 Astra
- Axios – OpenAI releases new model GPT-6 Astra, says it may represent AGI
- VentureBeat – ‘Welcome to the AGI era’: OpenAI launches GPT-6 Astra
- Fortune – OpenAI launches GPT-6 Astra, its most powerful model yet
- TechSpot – OpenAI welcomes the “AGI era” with GPT-6 Astra
- The Next Web – OpenAI rolls out GPT-6 Astra, and Greg Brockman says AGI has arrived
- Transformer News – OpenAI’s GPT-6 Astra might be too powerful to understand or control
- gHacks – GPT-6 Astra Draws Scrutiny for Being Harder to Monitor
- AI Weekly – OpenAI’s GPT-6 Astra hits ‘Critical’ cyber tier, monitors slip
- Pasquale Pillitteri – OpenAI lancia GPT-6 Astra, prezzi, benchmark e chi può usarlo da oggi
- 01net.it – GPT-6 Astra, OpenAI alza velocità, precisione e affidabilità nell’uso del computer
- Rivista.AI – OpenAI rilascia GPT-6 Astra: il primo modello classificato “critical” per la cybersecurity
