Un'ondata di dimissioni sta colpendo Google e OpenAI, con molti dei loro principali esperti di AI che lasciano le aziende per preoccupazioni etiche e strategiche.
Scott Jenson, ex Product Manager di Google, ha criticato la mancanza di una visione a lungo termine e l'ossessione per l'etichetta "AI" che potrebbe peggiorare Google Search.
Anche Geoffrey Hinton, il padrino dell'intelligenza artificiale, ha lasciato Google nel 2023, esprimendo timori per il rapido sviluppo delle AI.
Ilya Sutskever di OpenAI e il suo vice Jan Leike hanno seguito l'esempio, preoccupati per la sicurezza e l'etica delle AI avanzate.
Questa epidemia di "dimissionite" solleva molte domande sulla direzione e le implicazioni anche etiche dell'intelligenza artificiale in Google e nei suoi concorrenti.
Anche Scott Jenson si dimette da Google: la Grande Fuga dei padri delle AI spaventati dalle loro creature
Google e OpenAI sono in guerra per creare AI sempre più efficienti ma ultimamente sembrano accomunate dal morbo della “dimissionite“.
Sì, perché i loro più grandi talenti si stanno dimettendo uno dopo l’altro, come se fossero spaventati dalle loro stesse creature!
L’ultimo della serie è Scott Jenson, Product Manager di Google, che ha lasciato il colosso tecnologico il 20 Maggio 2024 dopo 16 anni di onorato servizio e lo ha fatto senza risparmiare critiche.
Ha dichiarato infatti che Google sta reagendo senza una visione a lungo termine, come in preda al panico, solo per non perdere terreno rispetto ai concorrenti, disinteressandosi dei bisogni reali degli utenti.
Jenson ha aggiunto:
“Google crede che qualsiasi cosa con l’etichetta “AI” sia automaticamente fantastica, senza però una vera strategia dietro”.
Scott Jenson
Come se non bastasse ha rincarato la dose paragonando questa situazione alla reazione isterica di 13 anni fa quando Big G lanciò Google+, un progetto nato per contrastare Facebook ma che si rivelò un fallimento.
“È stato un fiasco, e la stessa cosa sta accadendo ora con l’AI,” ha sentenziato.
Ma l’ex dirigente di Mountain View non è l’unico a manifestare il suo malcontento, anche i creatori di contenuti sono altrettanto preoccupati.
Infatti le panoramiche AI di Google, che generano riassunti utilizzando contenuti web, potrebbero ridurre il traffico verso i loro siti. Questa pratica inoltre, a sentire molte rimostranze degli utenti, sfrutterebbe i contenuti senza permesso, mettendo a rischio le entrate derivanti dai referral di ricerca.
Le dimissioni di Jenson ci hanno riportato alla mente un altro celebre addio, sempre a Maggio, ma dell’anno scorso…
Quando Geoffrey Hinton si dimise da Google (coincidenza o Déjà vu?)
Appena abbiamo letto di Jenson, abbiamo ripensato a Geoffrey Hinton di Google, considerato il padrino dell’intelligenza artificiale, che salutò Big G a Maggio 2023.
Hinton rivelò di essere intimorito dagli sviluppi delle AI e scrisse:
«Me ne sono andato per poter parlare liberamente dei pericoli dell’intelligenza artificiale».
Geoffrey Hinton
Hinton, ancora oggi, esprime preoccupazioni riguardo alle AI impiegate per “migliorare” Google Search e ai chatbot, affermando che potrebbero presto superare l’intelligenza umana in termini di conoscenza generale e capacità di apprendimento.
Sostiene inoltre che la rapidità con cui l’AI sta progredendo potrebbe portare a scenari spaventosi, come l’uso delle AI da parte di “attori malintenzionati” per non meglio precisati scopi pericolosi.
Affermando infine:
“È essenziale che il mondo investa pesantemente e urgentemente nella sicurezza e nel controllo dell’AI. Anche se a breve termine l’AI può portare molti benefici, dobbiamo garantire che venga sviluppata in modo sicuro per prevenire possibili abusi”.
Geoffrey Hinton
Ma cosa dicono i vertici di Google? Sono preoccupati da questa serie di dimissioni e dai commenti negativi degli utenti? Sentiamo che dice Sundar Pichai, l’amministratore delegato di Big G:
“Ho sempre pensato all’AI come alla tecnologia più profonda su cui l’umanità sta lavorando, più rivoluzionaria del fuoco o dell’elettricità o di qualsiasi cosa l’uomo abbia fatto in passato.
L’AI può comprendere tutto, arrivare all’essenza di cosa sia l’intelligenza stessa, di cosa sia l’umanità. Stiamo sviluppando una tecnologia che, di sicuro, un giorno sarà molto più ‘capace’ di qualsiasi altra cosa abbiamo mai visto prima”.
Sundar Pichai
Chiaro, no?
Come avete visto Pichai non sembra voler rallentare la corsa e, nonostante le critiche, Google Search utilizzerà sempre più le AI, come annunciato durante l’evento di Big G, l’I/O 2024.
Ma la “dimissionite” non sta colpendo solo Big G, anche il suo maggior concorrente non pare immune all’epidemia.
A questo proposito, ricordate Ilya Sutskever di OpenAI?
Perché Sutskever si è dimesso? Il co-fondatore di OpenAI è spaventato dalla sua stessa creatura?
Le dimissioni di Ilya Sutskever del 15 maggio 2024 hanno fatto molto rumore.
Sutskever, uno dei fondatori e Chief Scientist di OpenAI, considerato la mente dietro ChatGPT, non è stato il solo a lasciare la società.
Poco dopo il suo annuncio, anche il suo vice Jan Leike e altri membri del team della sicurezza hanno seguito il suo esempio, esprimendo preoccupazioni etiche sullo sviluppo delle AI.
Il padre di ChatGPT sembra temere che la sua creatura gli si rivolti contro, proprio come in Frankenstein Junior!
E, anche Jan Leike, folgorato sulla via di Damasco, ha dichiarato che OpenAI non sta facendo abbastanza per garantire la sicurezza delle AI avanzate.
Il progetto Superalignment, lanciato a luglio 2023, a cui lavorò Leike, avrebbe dovuto mettere ordine, per mantenere le AI avanzate sotto il controllo umano.
Tuttavia, il gruppo di lavoro ha evidenziato come la leadership aziendale preferisse investire in progetti più redditizi, lasciando il team senza le risorse necessarie.
Perciò questa mancanza di supporto ha provocato la decisione di lasciare l’azienda, evidenziando una spaccatura irreparabile.
Le loro dimissioni sono avvenute in un clima di disaccordo crescente con Sam Altman, CEO di OpenAI, riguardo alle priorità dell’azienda. Mentre Altman spingeva per la commercializzazione rapida dei prodotti, Sutskever e il suo team chiedevano più tempo per riflettere sulle implicazioni etiche.
Quali sono gli scenari futuri? (spoiler: l’Apocalisse!)
Pensate se questa serie infinita di dimissioni dei vertici di Google e OpenAI avvenisse nell’ambito della ricerca nucleare. Se il team di una tale azienda si dimettesse in blocco per mancanza di misure di sicurezza adeguate, il pubblico avrebbe il diritto di sapere e di essere preoccupato.
Ricordate il film Oppenheimer, vincitore dell’Oscar nel 2023?
Non voglio essere catastrofista, ma la pellicola di Nolan sul fisico diventato “distruttore di mondi“, sembra essere sempre più attuale. Nel caso, per rinfrescarvi la memoria, consiglio un re-watch.
Insomma, mi chiedo se per questioni di sicurezza globale, sarebbe opportuno rallentare il cosiddetto progresso tecnologico prima che sfugga di mano. Ma arrivati a questo punto, è ancora possibile fermarsi?
“Seguirà dibattito”, si sarebbe detto nei vecchi cineforum.
Per me le perplessità di ex pezzi grossi di Google, come Scott Jenson e Geoffrey Hinton, o ex OpenAI come Ilya Sutskever, non dovrebbero essere ignorate o sminuite.
La “dimissionite” potrebbe essere un segnale di allarme che invita l’industria tecnologica a riflettere più profondamente sulle implicazioni etiche e pratiche delle loro creazioni.
E ora ci si domanda solo: quale sarà la prossima tessera del domino a cadere?
Takeaways
- Scott Jenson e Geoffrey Hinton, ex dirigenti di Google, insieme a Ilya Sutskever e Jan Leike di OpenAI, hanno lasciato le rispettive aziende, preoccupati per la direzione e le implicazioni etiche dello sviluppo dell’AI.
- Jenson ha criticato Google per reagire in modo panico e senza una strategia ben definita, disinteressandosi dei reali bisogni degli utenti e paragonando la situazione attuale all’insuccesso di Google+.
- Hinton e Sutskever hanno espresso preoccupazioni per il rapido progresso delle AI, che potrebbe sfuggire al controllo umano e venire utilizzato per scopi pericolosi da attori malintenzionati.
- Le panoramiche AI di Google, che generano riassunti utilizzando contenuti web, potrebbero ridurre il traffico verso i siti dei creatori di contenuti, mettendo a rischio le loro entrate derivanti dai referral di ricerca.
- Sutskever e Leike hanno evidenziato come la leadership di OpenAI privilegiasse i progetti redditizi a breve termine rispetto alle iniziative di sicurezza, portando a una frustrazione crescente e alla decisione di lasciare l’azienda.
FAQ
Perché Scott Jenson si è dimesso da Google?
Scott Jenson si è dimesso da Google il 20 maggio 2024 dopo 16 anni di servizio. Ha criticato Google per la mancanza di una visione a lungo termine, affermando che l’azienda sta reagendo in preda al panico per non perdere terreno rispetto ai concorrenti, trascurando i bisogni reali degli utenti.
Quali sono state le preoccupazioni di Geoffrey Hinton riguardo all’intelligenza artificiale?
Geoffrey Hinton, il padrino dell’intelligenza artificiale, si è dimesso da Google a maggio 2023 perché preoccupato dagli sviluppi delle AI. Ha espresso timori che i chatbot possano superare l’intelligenza umana e che l’AI possa essere utilizzata per scopi pericolosi da attori malintenzionati.
Perché Ilya Sutskever ha lasciato OpenAI?
Ilya Sutskever si è dimesso da OpenAI il 15 maggio 2024 per preoccupazioni etiche sullo sviluppo delle AI. Sutskever e il suo team hanno lamentato che OpenAI non stava facendo abbastanza per garantire la sicurezza delle AI avanzate e che le risorse erano dedicate a progetti più redditizi piuttosto che alla sicurezza.
