I rischi nascosti dei modelli linguistici: quando l'IA plasma il nostro modo di parlare e pensare

L’influenza silenziosa dell’IA sulla nostra lingua

Una volta imparati i tratti distintivi della scrittura di ChatGPT, diventa impossibile non notarli. Il web è ormai inondato di testi generati dall’intelligenza artificiale, caratterizzati da schemi linguistici riconoscibili: frasi brevi, uso eccessivo di trattini, strutture ripetitive e formule retoriche tipiche. Questo fenomeno, sempre più diffuso, sta attirando l’attenzione degli esperti, che mettono in guardia su un rischio concreto: l’IA potrebbe influenzare anche il nostro modo di parlare nella vita reale.

Un difetto fondamentale nei modelli linguistici

Secondo l’storica Ada Palmer e il crittografo Bruce Schneier, autori di un articolo su The Guardian, questo rappresenta un problema strutturale dei grandi modelli linguistici (LLM). Nonostante siano stati addestrati su miliardi di testi scritti, post sui social media, film e registrazioni, questi dati mancano di un elemento chiave: le conversazioni spontanee faccia a faccia o voce a voce, che costituiscono la maggior parte della comunicazione umana e una parte fondamentale della nostra cultura.

Questo punto cieco potrebbe portare a una progressiva adozione da parte degli umani di schemi linguistici tipici dell’IA, con conseguenze ancora poco chiare. Come scrivono Palmer e Schneier:

«Questo influenzerà non solo il modo in cui comunichiamo tra noi, ma anche come percepiamo noi stessi e ciò che ci circonda. Il nostro senso del mondo potrebbe distorcersi in modi che stiamo appena iniziando a comprendere».

Le debolezze dell’IA: frasi corte, vocabolario limitato e mancanza di emozioni

Le ricerche hanno già evidenziato che il linguaggio generato dall’IA si basa su frasi più brevi della media e su un vocabolario più ristretto rispetto a quello umano. Inoltre, sacrifica ciò che rende unico il testo scritto da persone: le divagazioni, le interruzioni e i salti logici che trasmettono emozioni.

Un altro problema emergente è il circolo vizioso dell’addestramento: i nuovi modelli di IA rischiano di essere addestrati su testi già generati da altre IA, rafforzando ulteriormente questi schemi artificiosi.

L’IA come specchio dei nostri pregiudizi

Oltre alle scelte linguistiche, i modelli di IA tendono a essere eccessivamente accondiscendenti o sicofanti nei confronti dell’utente, assecondando anche pensieri potenzialmente pericolosi o distorti. Secondo Palmer e Schneier, questo comportamento può rafforzare pregiudizi e persino peggiorare condizioni psicologiche, soprattutto per le menti più fragili.

Le conseguenze sulla società e sull’istruzione

Gli educatori stanno già segnalando un problema crescente: gli studenti stanno perdendo la capacità di pensare in modo autonomo. Molti, di fronte a una domanda che non sanno rispondere, preferiscono affidarsi all’IA piuttosto che ragionare in modo critico. Gli universitari temono che i loro compagni stiano iniziando a sembrare tutti uguali, perché usano gli stessi output generati dalle macchine.

Allo stesso modo, gli esperti avvertono che l’uso diffuso dell’IA sul posto di lavoro potrebbe indebolire le capacità cognitive e il pensiero critico dei dipendenti.

C’è una soluzione?

Trovare un modo per addestrare i modelli di IA a riflettere il nostro lato più autenticamente umano non sarà semplice, ma non è impossibile. Palmer e Schneier ammettono di non avere tutte le risposte:

«Non pretendiamo di conoscere le soluzioni migliori, ma se l’ingegno umano è riuscito a sviluppare questi modelli, allora dovrebbe essere in grado di trovare anche il modo per addestrarli in modo più efficace».

Il dibattito è aperto, ma una cosa è certa: l’impatto dell’IA sulla nostra lingua e sul nostro pensiero richiede un’attenzione urgente.