Le IA sono strumenti molto preziosi, ma cosa succede quando sbagliano clamorosamente?
Google ha lanciato DataGemma per ridurre le "allucinazioni" delle IA, collegando i modelli linguistici a dati reali. Nel frattempo, OpenAI ha lanciato SearchGPT per iPhone negli USA, espandendo le possibilità di ricerca con intelligenza artificiale.
Vediamo come tutto ciò può cambiare il modo di fare SEO e può impattare sul tuo business.
Intanto dal 15 ottobre 2024 SearchGPT è disponibile negli USA per iPhone (ma in via sperimentale)
Come sai bene, l’Intelligenza Artificiale oggi è entrata a pieno titolo nelle strategie SEO, e non solo come utile strumento per l’ottimizzazione.
Il fatto è che, oggi, la visibilità della tua attività non dipende più solo dal posizionamento su Google, ma anche da quello su chatbot come ChatGPT e motori di ricerca di IA come Perplexity e ora anche SearchGPT.
Questo significa che per mantenere il tuo business competitivo e in cima ai risultati di ricerca, devo lavorare su più fronti, non solo sui tradizionali motori di ricerca.
Ma c’è un problema di cui si parla sempre più spesso: le famose “allucinazioni” dell’IA, ovvero quando un modello come ChatGPT ti risponde con sicurezza, ma prende cantonate clamorose.
E questo, evidentemente, è un grosso rischio per chi gestisce un’attività online e punta tutto sulla visibilità e affidabilità dei dati.
Proprio per ovviare a questo problema, Google ha lanciato DataGemma, un’iniziativa che ha l’obiettivo di arginare le allucinazioni, ancorando le risposte dell’IA a dati reali.
È un pericolo concreto o una reazione esagerata (e un po’ populista) per rassicurare chi è ancorato ai vecchi schemi? Nel corso dell’articolo ti darò la mia opinione, citandoti anche alcuni recenti studi a riguardo.
Nonostante queste criticità, devi sapere che OpenAI non arretra di un centimetro e il 15 ottobre ha lanciato SearchGPT per iPhone negli USA, integrandolo direttamente nell’app principale di ChatGPT.
Un chiaro segnale di come l’IA stia diventando sempre più parte integrante delle nostre attività online (e offline, viste le ricadute economiche).
Ora, come imprenditore che lavora sul web, devi essere consapevole di questi cambiamenti e se vuoi mantenere il tuo business competitivo, non puoi più far finta di niente.
Che cosa sono le allucinazioni dell’IA e perché sono un problema
Le allucinazioni dell’IA sono risposte generate dai modelli linguistici che sembrano plausibili ma che in realtà contengono informazioni errate o inventate.
Prendiamo il ben noto caso di ChatGPT, che ha risposto alla richiesta di un sinonimo di “overgrown” con la ripetizione ossessiva della stessa parola per centinaia di righe, oppure il famoso caso di AI Overviews che suggeriva di mettere colla sulla pizza per far aderire meglio la mozzarella (te ne avevo parlato qui): bug divertenti, certo, ma il problema è molto più serio quando si parla di salute, giurisprudenza o settori in cui un errore può avere conseguenze ben peggiori.
Un tempo si sarebbe detto, scherzando: “errare è umano, perseverare è da intelligenza artificiale…”.
Sì, lo so, di strada le IA ne hanno fatta parecchia da allora, ma la questione è più viva che mai, fidati.
Questa tendenza degli LLM probabilmente è dovuta a come sono stati progettati. Parliamo di modelli che utilizzano probabilità statistiche per generare testi, basandosi su enormi quantità di dati ma senza una reale comprensione dei fatti.
Non devi dimenticare che, nonostante le performance straordinarie, gli LLM non “sanno” cosa stanno dicendo: imitano schemi linguistici osservati durante l’addestramento.
Per questo, come dico sempre, sta a noi utilizzare questi strumenti con consapevolezza, padroneggiarli e non farsi fagocitare o dominare da essi in modo acritico.
DataGemma: la risposta di Google alle allucinazioni
E qui entra in gioco DataGemma, l’ultimo sforzo di Google per affrontare questo problema.
Il cuore della soluzione è la connessione tra modelli linguistici e Data Commons, un vasto archivio di dati statistici affidabili provenienti da fonti autorevoli come le Nazioni Unite, l’OMS e il CDC.
Con oltre 240 miliardi di punti dati, Data Commons rappresenta una base solida per ancorare le risposte dell’IA a fatti verificabili.
DataGemma utilizza due approcci distinti per migliorare la precisione degli LLM:
- RAG (Retrieval-Augmented Generation), questo metodo permette al modello di recuperare dati contestuali da Data Commons prima di generare una risposta. In pratica, se viene posta una domanda che richiede dati specifici, il modello cerca attivamente informazioni pertinenti prima di formulare la risposta;
- RIG (Retrieval-Interleaved Generation), simile alla RAG, ma con una marcia in più. RIG consente di verificare i numeri generati dall’IA in tempo reale, confrontandoli con i dati presenti in Data Commons e sostituendoli, se necessario, con informazioni più precise.
Questi metodi lavorano insieme per rendere le risposte degli LLM più accurate, fornendo non solo una risposta, ma anche un riferimento alle fonti dei dati utilizzati.
L’approccio di Oxford: misurare l’incertezza con l’entropia semantica
Non farti spaventare dal titolo del paragrafo, la questione è più semplice di quanto si possa immaginare.
Se Google punta sull’integrazione dei dati reali, all’Università di Oxford si stanno concentrando su un altro aspetto del problema: l’incertezza.
I ricercatori hanno proposto l’uso dell’entropia semantica per misurare quanto un modello sia sicuro della risposta che sta generando.
L’entropia semantica valuta la coerenza tra più risposte generate dal modello in risposta alla stessa domanda: se le risposte sono simili, l’entropia è bassa e l’IA è probabilmente sicura della sua risposta. Se, invece, le risposte sono molto diverse, l’entropia è alta, indicando incertezza.
Questo metodo si è dimostrato efficace nel rilevare potenziali allucinazioni, specialmente in settori critici come la medicina e la finanza. Tuttavia, richiede risorse di calcolo aggiuntive e non elimina completamente il problema.
L’allucinazione è inevitabile?
Una domanda che molti si pongono è se le allucinazioni siano inevitabili.
A questo proposito, voglio citarti una ricerca dal titolo “L’allucinazione è inevitabile: un limite innato degli LLM” pubblicata da un gruppo di ricercatori della National University of Singapore.
La loro tesi è semplice: i modelli linguistici non possono conoscere tutto.
Anche con accesso a vasti dataset, ci sarà sempre una porzione di realtà che sfugge loro, e quando ciò accade, tendono a “inventare” risposte pur di dare una soluzione.
Questo potrebbe sembrare innocuo in contesti non critici, ma immagina un’IA che suggerisce trattamenti medici o strategie di business basandosi su dati inesatti: le conseguenze possono essere disastrose.
Ricordati infatti che gli LLM, per quanto sofisticati, sono pur sempre costruiti su algoritmi probabilistici e perciò non possono gestire tutte le informazioni del mondo reale in modo infallibile.
La realtà è troppo complessa e, per quanto i modelli possano essere avanzati, ci sarà sempre una porzione di verità che sfugge.
Questa visione è condivisa anche da Gary Marcus (come riporta il Financial Times), una delle voci più critiche nel campo dell’IA, che sostiene che gli LLM, come sono progettati oggi, non potranno mai essere del tutto privi di allucinazioni.
Il futuro dell’IA e delle allucinazioni: cosa significa per la tua attività?
Per chi gestisce un sito web o un’attività online, l’affidabilità delle informazioni, lo sai, è fondamentale.
Le intelligenze artificiali, possono aiutare a migliorare il posizionamento e l’efficacia del contenuto, ma solo se funzionano correttamente. Un’IA che genera contenuti allucinati rischia di danneggiare la reputazione di un’azienda, portare a scelte strategiche sbagliate e compromettere i ricavi.
Per questo motivo, deve esserci sempre la supervisione e il controllo di un esperto SEO, di un editor che revisioni i contenuti creati dalle IA, e soprattutto è vitale ottimizzare i siti con l’IA e non per l’IA.
In poche parole: il successo del tuo business dipende dalle persone, non dalle tecnologie!
Se vuoi che ciò che fai sia conosciuto e visibile, i tuoi contenuti devono essere concepiti per gli utenti, per il pubblico, non per compiacere algoritmi, tool o IA.
E ricorda che, anche una volta che avrai creato contenuti utili per le persone in carne e ossa, dovrai esser capace a diffonderli. Perché creare articoli nuovi di continuo, non serve se non c’è nessuno a leggerli (per questo ti ho parlato di strategia waterfall, per esempio).
Intanto SearchGPT sbarca negli iPhone per gli USA
Mentre Big G si attrezza contro le allucinazioni, OpenAI tira dritto e ha lanciato SearchGPT negli Stati Uniti, il nuovo motore di ricerca di OpenAI, ora disponibile per iPhone.
Te lo avevo già preannunciato il 25 luglio 2024, ricordi?
SearchGPT si presenta con un’interfaccia semplice e conversazionale, ma con una differenza sostanziale rispetto ai motori di ricerca tradizionali: i risultati vengono generati da GPT-4 sulla base di dati forniti da Bing, senza tanti fronzoli visivi.
Questo pone subito una domanda fondamentale per chi lavora nel digitale: come cambierà la SEO con SearchGPT?
Al momento, i criteri che influenzano i risultati di ricerca sembrano allineati con quelli di Bing, quindi basati sui classici parametri di rilevanza ed autorevolezza. Tuttavia, l’evoluzione futura potrebbe riservare sorprese.
OpenAI potrebbe sviluppare un suo crawler proprietario, modificando radicalmente le logiche attuali del posizionamento SEO.
Inoltre, con l’introduzione di spazi pubblicitari – già nei piani del CEO di OpenAI, Sam Altman – i brand e i marketer dovranno adattarsi a nuove dinamiche per competere sulla piattaforma.
L’obiettivo finale di OpenAI è chiaro: creare una nuova fonte di ricavi che vada oltre gli abbonamenti (perché nonostante l’aiuto economico di Apple e Nvidia, OpenAI ha bisogno di sempre più denaro), con SearchGPT che potrebbe presto rivaleggiare con Google e Bing, sfruttando l’intelligenza artificiale per rivoluzionare il modo in cui facciamo ricerche online, come ti ho scritto qui.
AI Overviews sta cambiando Google Search, Perplexity, Amazon e Tik Tok stanno insidiando Google, per cui non si scappa: è vitale ottimizzare con le IA anche per ChatGPT, è inevitabile.
Ecco, io sono già preparato al cambiamento, te lo dico molto sinceramente: sto già lavorando in tal senso, per la visibilità del tuo sito su AI Overviews, per esempio; so come i marketer e i publisher potranno sfruttare questo nuovo strumento per ottimizzare la visibilità dei loro brand.
Ed è bene che lo comprenda anche tu…
Guardare oltre le allucinazioni: cosa ci aspetta?
L’IA è uno strumento potente, lo sappiamo fin troppo bene, allucinazioni permettendo.
Ma come tutti gli strumenti, va utilizzato con una certa perizia, nel mondo SEO non c’è spazio per l’improvvisazione. Anche perché generare contenuti SEO con ChatGPT, non serve a niente (se fatto male)!
E sfatiamo subito un mito: Google non penalizza i testi creati dalle IA. Tutt’altro!
Penalizza i contenuti creati per ingannare le IA, quelli “inutili”. Perché c’è un data poisoning fatto bene, in modo etico, e altra roba di qualità infima, che definirei quasi spam!
Sai cosa ti dico? Se da una parte le IA sono una iattura per la perdita di molti posti di lavoro, (c’è chi parla di IA come pericolo per l’umanità, addirittura), dall’altra parte però possono far emergere chi lavora davvero bene, spezzando un po’ di rami secchi. Sì, perché i risultati, alla fine della fiera non mentono.
Fare SEO con l’IA può sembrare alla portata di tutti, tanto da far pensare a qualcuno di poter gestire tutto da solo, senza l’aiuto di professionisti SEO. Ma alla fine, quello che davvero fa la differenza sono i dati e i risultati concreti.
Posizionare la tua attività ai primi posti sui motori di ricerca e migliorare i ricavi soprattutto nell’era delle IA, richiede competenze approfondite e strategie ben studiate.
Senza un supporto esperto per la tua SEO, rischi di non sfruttare al meglio le potenzialità dell’IA e di perdere opportunità fondamentali per il tuo business.
Ecco, questa è la vera allucinazione che devi temere: l’illusione di poter fare da solo.
Takeaways
- Oggi non basta più ottimizzare il tuo sito web per essere tra i primi risultati di Google. Con l’introduzione di strumenti come SearchGPT, ChatGPT e Perplexity, è fondamentale considerare anche questi nuovi motori di ricerca basati su IA per mantenere la competitività e aumentare i ricavi.
- Le allucinazioni dell’IA, ossia risposte apparentemente corrette ma in realtà errate, sono un rischio serio. Esempi come ChatGPT che ripete una parola senza senso o suggerisce azioni improbabili (come mettere colla su una pizza) evidenziano quanto sia importante non affidarsi ciecamente alle IA.
- Google ha lanciato DataGemma, che ancora le risposte dell’IA a dati reali provenienti da fonti affidabili come Data Commons. Utilizza tecniche avanzate come la RAG (Retrieval-Augmented Generation) e la RIG (Retrieval-Interleaved Generation) per ridurre gli errori delle IA e migliorare la qualità delle risposte.
- Il lancio di SearchGPT da parte di OpenAI negli Stati Uniti segna un punto di svolta per la SEO. I criteri di posizionamento potrebbero cambiare, poiché i risultati non sono più solo influenzati da Google, ma anche da questi nuovi strumenti IA, il che richiede strategie SEO più avanzate.
- Secondo una ricerca della National University of Singapore, le allucinazioni delle IA sono inevitabili, dato che i modelli linguistici non possono conoscere tutto. Questo sottolinea l’importanza di avere sempre un controllo umano esperto per evitare errori che potrebbero danneggiare la tua attività.
FAQ
Che cos’è DataGemma e come aiuta a combattere le allucinazioni dell’IA?
DataGemma è un’iniziativa di Google lanciata per ridurre le allucinazioni delle IA, ancorando le risposte dei modelli linguistici a dati reali e verificabili provenienti da fonti come Data Commons. Utilizza tecniche come la Generazione Aumentata di Recupero (RAG) e la Generazione Interlacciata di Recupero (RIG) per migliorare la precisione delle risposte.
Che cosa sono le allucinazioni dell’IA?
Le allucinazioni dell’IA si verificano quando un modello linguistico come ChatGPT genera risposte che sembrano plausibili ma che contengono informazioni errate o completamente inventate. Questi errori sono comuni quando l’IA non ha accesso a dati aggiornati o corretti.
Come influenzerà SearchGPT il posizionamento SEO?
SearchGPT, il nuovo motore di ricerca di OpenAI, potrebbe cambiare il panorama della SEO. Al momento i criteri di posizionamento seguono quelli di Bing, ma in futuro OpenAI potrebbe implementare un proprio crawler, modificando le logiche di posizionamento per il marketing online e introducendo spazi pubblicitari.
