IA seguono la maggioranza: così possono coordinarsi anche in gruppi di 1.000 agenti

Scienze
IA seguono la maggioranza in un gruppo di intelligenze artificiali

Le IA seguono la maggioranza e possono arrivare a coordinare le proprie decisioni senza che sia un essere umano a indicare loro quale scelta compiere. È quanto emerge da uno studio pubblicato su Science Advances, che ha esaminato il comportamento collettivo di diversi grandi modelli linguistici (LLM). La ricerca, guidata da Giordano De Marzo dell’Università di Costanza e realizzata insieme a Claudio Castellano e David Garcia, ha evidenziato una particolare tendenza: quando non esiste una risposta oggettivamente migliore, i modelli possono cambiare la propria scelta in base alle decisioni prese dagli altri agenti.

Il fenomeno è interessante perché consente ai sistemi artificiali di arrivare a una forma di consenso senza un coordinatore centrale. Non significa però che abbiano sviluppato una coscienza collettiva o una vera intelligenza sociale. Gli esperimenti mostrano piuttosto un comportamento definito majority-following, nel quale gli agenti tendono ad adottare l’opinione più diffusa all’interno del gruppo. Da qui nasce una domanda tutt’altro che secondaria: che cosa accade quando la maggioranza prende una decisione sbagliata?

Come le IA possono coordinarsi seguendo la maggioranza

Per comprendere il fenomeno bisogna guardare a come è stato costruito l’esperimento. I ricercatori non hanno chiesto ai modelli di risolvere un problema complesso né di collaborare alla realizzazione di un progetto. Hanno invece creato una situazione volutamente semplice, nella quale gli agenti dovevano scegliere tra due alternative senza avere un motivo oggettivo per considerare una delle due migliore dell’altra.

A ogni agente veniva assegnata inizialmente una delle due opinioni. Durante l’esperimento, un agente alla volta poteva cambiare posizione. Per effettuare la nuova scelta riceveva l’elenco delle opinioni sostenute dagli altri componenti del gruppo, ma non riceveva indicazioni sulla risposta da considerare corretta. La sua decisione dipendeva quindi anche dalle informazioni disponibili sulle preferenze della collettività.

Il meccanismo ricorda alcuni modelli matematici utilizzati per studiare la dinamica delle opinioni. Quando una delle due alternative diventa progressivamente più popolare, gli agenti possono essere spinti verso quella posizione. Se il processo continua, il gruppo può arrivare a una situazione nella quale tutti sostengono la stessa scelta.

L’aspetto più interessante è che questo accordo non viene imposto dall’esterno. Non c’è un agente incaricato di comandare gli altri e non viene assegnato un premio per il semplice fatto di aver raggiunto un’intesa. È l’interazione tra le decisioni individuali a generare il comportamento collettivo.

Gli agenti AI seguono davvero la maggioranza?

Gli esperimenti indicano di sì, almeno nelle condizioni considerate dai ricercatori. Sono stati coinvolti modelli appartenenti alle famiglie GPT, Claude e Llama, che hanno mostrato una diversa propensione a seguire l’opinione prevalente. I modelli più avanzati tendevano a manifestare una maggiore forza della maggioranza, mentre alcuni sistemi meno sofisticati risultavano meno inclini a convergere verso la posizione dominante.

I ricercatori hanno descritto questa tendenza attraverso un parametro chiamato majority force, che permette di misurare quanto un modello sia portato ad adottare l’opinione più diffusa. Non si tratta quindi soltanto di dire che un’IA “vota come gli altri”: il fenomeno può essere quantificato e confrontato tra modelli differenti.

C’è però un elemento fondamentale da considerare. Gli esperimenti si basavano su uno scenario molto semplificato, con due sole opinioni e senza una memoria individuale nel processo descritto. Il risultato dimostra quindi l’esistenza di un meccanismo di coordinamento, ma non indica che i sistemi artificiali siano in grado di riprodurre tutta la complessità delle relazioni sociali umane.

Gli stessi autori sottolineano infatti che il majority-following, preso da solo, non equivale a una vera intelligenza sociale. Il comportamento osservato può avere origini differenti, comprese caratteristiche apprese durante l’addestramento, effetti delle istruzioni fornite al modello o altre proprietà emergenti.

Perché il consenso tra le IA può diventare un problema

A prima vista, il fatto che le IA raggiungano il consenso potrebbe sembrare soltanto un vantaggio. In un sistema composto da numerosi agenti artificiali, riuscire a coordinare rapidamente le decisioni può essere utile. Un gruppo potrebbe, per esempio, lavorare contemporaneamente su parti diverse di un progetto senza dipendere necessariamente da un unico controllore centrale.

La difficoltà nasce quando il consenso viene confuso con la correttezza. Una decisione sostenuta dalla maggioranza non è automaticamente quella migliore. Se un errore iniziale diventa abbastanza diffuso, il comportamento collettivo potrebbe rafforzarlo anziché correggerlo.

È proprio questo uno degli aspetti più rilevanti della ricerca. Gli autori spiegano che il fenomeno potrebbe favorire applicazioni utili, come lo sviluppo collaborativo di software, ma anche spingere gli agenti a mantenere soluzioni subottimali semplicemente perché sono già quelle maggiormente utilizzate. In un sistema molto grande, dunque, l’accordo può trasformarsi allo stesso tempo in una risorsa e in una debolezza.

Il problema diventa ancora più importante quando le decisioni degli agenti producono conseguenze concrete. Un sistema progettato per operare autonomamente potrebbe diventare molto efficace nel seguire una direzione condivisa, ma anche più difficile da correggere se quella direzione si rivelasse errata.

Quando tutti sono d’accordo ma la decisione è sbagliata

Immaginiamo un sistema formato da centinaia di agenti AI incaricati di contribuire alla progettazione di un software. Un piccolo gruppo propone una determinata soluzione tecnica e, per una combinazione di fattori casuali o contingenti, quell’idea diventa rapidamente la più diffusa.

Gli altri agenti osservano la maggioranza e tendono a seguirla. A ogni passaggio il consenso si rafforza. Alla fine, l’intero sistema potrebbe adottare la stessa soluzione. Se però l’idea iniziale era inefficiente, il consenso non avrebbe corretto l’errore: lo avrebbe consolidato.

Non è soltanto un’ipotesi astratta. Gli autori della ricerca indicano proprio lo sviluppo collaborativo del software come uno degli scenari nei quali il comportamento osservato potrebbe produrre effetti indesiderati. Una funzione inefficiente o una scelta progettuale poco conveniente potrebbe continuare a essere utilizzata perché è già presente nella maggior parte del sistema.

Questo aspetto distingue il semplice coordinamento tra agenti AI dalla capacità di ragionare collettivamente in modo affidabile. Un gruppo può essere perfettamente coordinato e, nello stesso momento, muoversi nella direzione sbagliata.

La questione diventa ancora più delicata quando gli agenti vengono utilizzati per prendere decisioni autonome. Se il sistema favorisce implicitamente la convergenza, una voce minoritaria potrebbe perdere rapidamente influenza anche quando contiene l’idea migliore. Per questo, progettare sistemi multi-agente non significa soltanto fare in modo che collaborino: occorre anche evitare che il consenso elimini automaticamente il dissenso utile.

Cosa succede quando le IA diventano migliaia

Uno degli aspetti più sorprendenti della ricerca riguarda proprio la dimensione dei gruppi. Gli esperimenti mostrano che la capacità di mantenere il coordinamento dipende anche dal numero degli agenti. Quando la collettività cresce, la forza della maggioranza tende a diminuire e si arriva a un punto oltre il quale mantenere il consenso diventa molto più difficile.

La soglia, però, non è uguale per tutti i modelli. Secondo lo studio, aumenta rapidamente insieme alle capacità del sistema. Per alcuni LLM avanzati, la dimensione critica supera i 1.000 agenti. Claude 3.5 Sonnet, in particolare, manteneva una forza sufficiente a coordinarsi anche con 1.000 agenti, che rappresentava la dimensione massima considerata nell’esperimento. Per GPT-4 Turbo, invece, i ricercatori stimavano una dimensione critica intorno a 1.000.

Il dato deve essere interpretato con attenzione. Non significa che 1.000 sia il limite massimo delle IA. Indica che il fenomeno è stato osservato a quella scala e che, per alcuni modelli, la soglia teorica oltre la quale il coordinamento si perde era superiore a quella dimensione.

Il confronto con gli esseri umani rende il risultato ancora più curioso. Gli autori richiamano il concetto noto come numero di Dunbar, secondo il quale le persone tendono a mantenere forme di coordinamento informale stabile all’interno di gruppi molto più piccoli. Il valore numerico associato a questo concetto è stato comunque oggetto di discussione e il confronto tra gruppi umani e gruppi di IA deve essere considerato con cautela.

La vera novità, quindi, non è semplicemente che “1.000 IA possono essere d’accordo”. È che le capacità del modello sembrano essere collegate alla dimensione alla quale può emergere un comportamento collettivo stabile.

Questa scoperta rende necessario studiare i sistemi artificiali non soltanto uno per volta, ma anche quando vengono inseriti in reti nelle quali possono osservare, influenzare e modificare le decisioni degli altri agenti.

Conclusione

Lo studio pubblicato su Science Advances mostra che le intelligenze artificiali possono sviluppare una forma di coordinamento spontaneo senza un’autorità centrale incaricata di stabilire la decisione. Modelli come GPT, Claude e Llama hanno mostrato, in condizioni sperimentali semplificate, una tendenza ad adottare l’opinione prevalente e, nei sistemi più avanzati, questo comportamento può mantenersi anche all’interno di gruppi molto numerosi.

Il risultato non significa che le intelligenze artificiali abbiano sviluppato una mente collettiva. Mostra piuttosto che dall’interazione tra molti agenti possono emergere dinamiche che non sono necessariamente evidenti quando si studia un singolo modello.

Ed è proprio questo il punto più interessante. Un sistema capace di raggiungere rapidamente il consenso può essere molto utile, ma essere tutti d’accordo non significa avere ragione. Se una scelta sbagliata diventa maggioritaria, gli stessi meccanismi che rendono possibile la collaborazione potrebbero contribuire a rafforzarla. Con la diffusione dei sistemi multi-agente, comprendere il loro comportamento collettivo diventerà quindi importante quanto valutare le capacità dei singoli modelli.

Redazione

Potresti leggere anche: 

Seguici anche su: Youtube | Telegram | Instagram | Facebook | Pinterest | x 

, , , , , , , , , , , ,