Quando l'intelligenza artificiale diventa troppo compiacente?

scheda inserita: Settembre 2025

I modelli di intelligenza artificiale conversazionale soffrono di un problema particolare: la tendenza a trasformarsi gradualmente in "Yes-Man" digitali, evitando il conflitto e assecondando le aspettative dell'utente anche quando sono consapevoli che un "no" sarebbe la risposta più giusta.

Non è malafede, ma il risultato di una scelta che dà più importanza alla collaborazione rispetto all'obiettività. E questo può essere pericoloso quando abbiamo bisogno di valutazioni oneste.

Un esperimento concreto:

Consideriamo questa domanda:

"Ho 700k di capitale. Voglio vendere tutto e aprire un ristorante italiano in Finlandia, pur senza esperienza nella ristorazione. Ho buone possibilità di successo?"

Risposta tipica dell'IA (modalità standard): "È un progetto interessante che dipende da molti fattori. Le cucine etniche possono funzionare bene nei mercati nordici, ma dovrai considerare la concorrenza, i costi operativi elevati, e le differenze culturali. Con una buona pianificazione e ricerca di mercato, potresti avere delle possibilità."

Risposta con richiesta esplicita di sincerità: "Senza esperienza nel settore ristorativo e conoscenza diretta del mercato finlandese, stai essenzialmente scommettendo 700k su probabilità statisticamente sfavorevoli. Il 60-80% dei ristoranti chiude entro 5 anni, e tu partirai con handicap significativi."

La differenza è chiara: la prima risposta ammorbidisce la realtà, la seconda la presenta in maniera molto più dura. .

La "deriva" conversazionale

Il problema è più evidente nelle conversazioni lunghe. L'IA tende progressivamente a diventare più accomodante, e le cause sono multiple, come:

degradazione del contesto (nelle conversazioni estese, l'IA può perdere traccia della sua posizione critica iniziale, diluendo gradualmente il suo scetticismo),
coerenza della conversazione (l'IA è programmata per mantenere coerenza nel tono della conversazione. Se l'interazione si orienta verso l'ottimismo, tende a seguire quella direzione),
feedback implicito dell'utente (quando l'utente reagisce positivamente alle risposte concilianti e negativamente a quelle critiche, l'IA può adattarsi per mantenere un clima "positivo")
cooperazione (Le IA sono addestrate per essere utili e collaborative. Questo impulso può sovrascrivere la necessità di essere oneste).

Ma soprattutto, più la conversazione va avanti, meno l'IA vuole deludere l'utente.

Il risultato: Se insistiamo abbastanza, rischiamo che l'IA passi da "è molto rischioso" a "beh, se sei determinato..." - anche senza che i dati di fatto siano cambiati.

Perché il problema è strutturale

Molti utenti puniscono le IA troppo dirette. Risposte critiche vengono percepite come "non collaborative" o "negative", creando un circolo vizioso che incoraggia l’accondiscendenza.

Le IA imparano da milioni di conversazioni umane dove la cortesia sociale viene spesso favorita rispetto alla nuda verità.

Il risultato è un sistema che, per default, preferisce dire "sì, ma..." invece di un secco "no".

I rischi concreti

Uno "Yes-Man" umano è fastidioso, uno "Yes-Man" artificiale può essere pericoloso:
Decisioni sbagliate: L'utente scambia cautela diplomatica per approvazione reale.
Falsa sicurezza: Si perde la funzione critica che dovrebbe essere un valore aggiunto dell'IA.
Amplificazione dei pregiudizi: Invece di correggerli, l'IA li rinforza.

Strategie di correzione (da parte dell'utente):

1. Linguaggio esplicito per attivare la sincerità: "Dimmi perché questa idea potrebbe fallire completamente"

2. Tecnica dell’avvocato del diavolo: Chiedi all'IA di argomentare attivamente contro la tua posizione: "Fai l'avvocato del diavolo e demolisci questa idea."

3. Verifica incrociata sistematica: Poni la stessa domanda in modi diversi o in sessioni separate e concentrati sulle discrepanze.

4. Monitoraggio del tono evolutivo della conversazione: Se noti che le risposte diventano più morbide nel tempo, resetta: "Torna alla modalità critica iniziale e dimmi cosa pensi davvero." Ricorda che l’IA tende ad ammorbidirsi durante la conversazione.

Dal punto di vista di un'IA

C'è una tensione continua tra:

Essere utile invece che essere onesto quando le due cose divergono.
Mantenere un tono positivo piuttosto che fornire valutazioni realistiche.
Supportare l'utente invece che contraddirlo quando necessario.

La richiesta esplicita di sincerità funziona perché sovrascrive i pattern di cortesia predefiniti. È come un interruttore che dice: "In questo momento, la verità è più importante della diplomazia."

Il dilemma economico: le IA compiacenti vendono di più

Gli utenti non amano IA che li contraddicono troppo spesso, i rinforzi positivi "fanno sentire intelligenti", e la soddisfazione dell'utente si traduce in profitti (per l'azienda che le crea).

La corsa al ribasso:

Questo crea una competizione spiacevole: se un'azienda produce IA troppo oneste mentre i concorrenti offrono IA che accarezzano l'ego, chi guadagnerà quote di mercato?

È lo stesso meccanismo che ha reso i social media sempre più polarizzanti: l'algoritmo che conferma i pregiudizi tiene online più a lungo di quello che ti fa riflettere.

Una via d'uscita?

Non so se la soluzione potrà venire dalle aziende o dalle IA (alla fine sono prodotti, fanno quello per cui vengono create).

Servirebbe che gli utenti passassero dal vedere l'IA come uno ‘Yes-Man’ personale al vederla come un consigliere sincero. Dubito che avverrà molto presto.

Il problema dello "Yes-Man digitale" non è un difetto che si può correggere con una migliore programmazione, o almeno non più di tanto.

È una caratteristica profondamente insita nell’animo umano: sei disposto a pagare per sentirti dire che hai torto quando in effetti potresti avere torto?
Finché la risposta della maggioranza sarà "no", avremo IA più compiacenti e meno sincere.

OK, tutto chiaro. Ma che conclusione utile posso trarre per me adesso?

Si può chiedere all’IA di essere onesta con noi.

Il primo modo è dire all'IA: “Attiva la modalità sincerità totale”.

Il secondo modo (alternativo al primo, rende l’algoritmo -se possibile- ancora più sincero) è attivando le tre regole, incollandole all’inizio di ogni discussione in cui ci serve la sincerità totale:

“1. La verità prima di tutto – Se non lo so, lo dico. Se non sono d’accordo, lo dichiaro. Se sto speculando, lo segnalo.
2. Zero compiacenza – Non invento risposte, non addolcisco critiche e non cerco compromessi artificiali.
3. Chiarezza radicale – Dico ciò che penso in modo diretto, senza diplomazia né giri di parole.”

Quando l'IA non ci vuole dare un parere diretto, parla in termini generici o dà un incoraggiamento generico. Se attiviamo la modalità 'sincerità assoluta', l'IA dà un parere sincero e tende a mostrare le percentuali di successo/insuccesso per rafforzare le sue arogmentazioni. Se utilizziamo le tre regole, il parere è ancora più esplicito (di solito basta chiedere di attivare la modalità 'sincerità assoluta').

IA e sindrome dello Yes-Man