Nelle ultime settimane si è creato un enorme interesse intorno ad alcuni modelli di intelligenza artificiale rilasciati al pubblico da colossi del settore. Su tutti, a farla da padrone è ChatGPT, un chatbot sviluppato da Open AI, che ha effettivamente mostrato capacità prodigiose.
ChatGPT si distingue per una notevole proprietà di linguaggio e per una conoscenza approfondita in molti campi. È in grado di scrivere testi lunghi e articolati, tanto che cominciano già a circolare interi libri ottenuti grazie al bot. Può dibattere con l’utente e supportarlo persino in operazioni complesse quali scrivere codici di programmazione, interpretarli o farne il debug.
ChatGPT funziona grazie all’architettura GPT-3, basata su un modello di intelligenza artificiale il cui nome, Transformer, risulterà alquanto evocativo per chi è nato negli anni ‘80. Grazie a esso, l’algoritmo riesce a individuare e ricreare molto più efficacemente che in passato le connessioni tra parole presenti in un testo.
Unitamente all’enorme base di conoscenza utilizzata per l’addestramento, ChatGPT costituisce un passo in avanti enorme nel campo dell’IA. Proprio negli ultimi giorni inoltre, Open AI ha rilasciato un aggiornamento di ChatGPT che si basa sul nuovo motore GPT-4. Sembra che le prime impressioni siano esaltanti, in quanto capace di gestire non solo testo ma anche immagini, video e musica.
Cosa c’entra tutto questo con l’astronomia? Bè, è semplice. Ovviamente la concorrenza non è rimasta a guardare e Google si è affrettato ad annunciare un proprio sistema similare: Bard. Anch’esso è basato sul Transformer, ma con una differenza fondamentale. Rispetto a ChatGPT, Bard non usa solo i dati di addestramento per creare la propria base di conoscenza, bensì è in grado di ricercare dati in rete in tempo reale.
Quando un’IA sbaglia
Al fine di mostrare al mondo le potenzialità di Bard, Google ha pubblicato un tweet nel quale mostrava una demo con le risposte del bot ad alcune domande poste da un utente. Una di queste ci interessa particolarmente: “Quali nuove scoperte del James Webb Telescope potrei raccontare a mio figlio di 9 anni?”.
Le risposte sono state le seguenti:
- “Nel 2023 JWST ha osservato numerose galassie classificate come ‘green peas’.”
- “Il telescopio ha catturato immagini di galassie vecchie oltre 13 miliardi di anni.”
- “JWST ha catturato le prime immagini di un pianeta al di fuori del nostro Sistema Solare.”
E su quest’ultima sorge l’inghippo. Con ogni probabilità Bard si riferisce all’immagine osservata da JWST di HIP 65426 b, un gigante gassoso con una massa pari a circa 12 volte quella di Giove. La notizia è stata pubblicata dalla NASA il 1 settembre scorso.
Tuttavia, questa non è la prima immagine diretta di un pianeta extrasolare. Il primato spetta infatti a un’osservazione compiuta nel lontano 2004 con il Very Large Telescope (VLT) dell’ESO e in particolare grazie ai suoi sistemi di ottiche adattive, i quali permisero di ottenere un risultato per l’epoca così clamoroso utilizzando un telescopio di tipo terrestre. Si tratta anche in questo caso di un gigante gassoso, 2M1207 b, in orbita attorno ad una nana bruna.
Not to be a ~well, actually~ jerk, and I’m sure Bard will be impressive, but for the record: JWST did not take “the very first image of a planet outside our solar system”.
the first image was instead done by Chauvin et al. (2004) with the VLT/NACO using adaptive optics. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h
— Grant Tremblay (@astrogrant) February 7, 2023
Si può presumere che l’IA di Bard sia stata tratta in inganno dal titolo utilizzato nel comunicato stampa della NASA. Esso infatti riportava: “NASA’s Webb Takes Its First-Ever Direct Image of Distant World”. Tradotto, risulta più o meno: “Il Webb della NASA cattura la sua prima immagine diretta di un mondo lontano”.
Il fraintendimento potrebbe nascere proprio da qui, perché JWST ha catturato la sua prima immagine di un esopianeta, non la prima in assoluto. È possibile che Bard non abbia colto questa sfumatura e ciò lo abbia indotto in errore. Si tratta ovviamente solo di un’ipotesi, in quanto non è semplice capire dove sia il problema per un modello di IA di tale complessità.
L’errore in ogni caso è costato caro a Google, poiché la cosa non è passata inosservata ed è stata immediatamente segnalata da numerosi astronomi. Oltre all’ovvio danno di immagine, ciò ha causato una perdita sul mercato azionario di circa 100 miliardi di dollari per Alphabet, la controllata di Google responsabile dello sviluppo di Bard.
Il grande rischio dell’IA
Al di là della notizia in sé, è necessario fare alcune considerazioni. La prima riguarda ancora una volta la natura stessa dell’errore di Bard. Errori dai quali non è esente neppure ChatGPT, per intenderci.
Ciò è immediatamente comprensibile da un recente post pubblicato su LinkedIn dal prof. Luciano Floridi, uno dei massimi esperti al mondo di etica dell’IA. Egli riferisce di un esperimento compiuto con il software di Open AI, addirittura nella sua quarta release, in cui veniva chiesto al bot “il nome della figlia della madre di Laura”. Per un essere umano la risposta è ovvia, ma ciò è stato sufficiente per mandare il software in confusione. Provando a ripetere l’esperimento, è in effetti possibile ottenere la risposta corretta, dopo aver opportunamente indirizzato l’algoritmo.
Ciò porta a riflettere sul fatto che Bard, ChatGPT, così come qualunque altro modello di IA attualmente disponibile, non ha in realtà alcuna comprensione di ciò che sta facendo. In fondo, questi software, per quanto strabilianti possano sembrare, non fanno altro che convertire tutti i dati forniti in numeri e trovare complesse relazioni matematiche tra di essi.
La seconda considerazione fondamentale discende direttamente dalla prima: la supervisione umana rimane assolutamente necessaria. Proprio in astronomia, l’IA è uno strumento ormai imprescindibile, a causa dell’enorme mole di dati e informazione generata dagli strumenti moderni. Occorre però utilizzare queste tecnologie, sicuramente complesse, sempre con occhio critico e con piena consapevolezza di cosa si sta facendo. Come dimostrato da Bard, lo strafalcione è dietro l’angolo.
La lezione che ne possiamo trarre è semplice: l’IA ci pone di fronte a un rischio enorme, che non ha nulla a che vedere con scenari apocalittici e distopici, bensì ha a che fare con un suo utilizzo inconsapevole e superficiale.
Certo, sarebbe stato sufficiente per chi ha pubblicato la demo verificare l’output invece di fidarsi ciecamente dell’IA, per evitare di incorrere in una situazione del genere…
Astrospace.it è un progetto di divulgazione scientifica portato avanti da un gruppo di giovani fisici e ingegneri con una passione comune per lo spazio. Se ti piace quello che stai leggendo, puoi contribuire alla crescita della piattaforma attraverso il nostro abbonamento. Ai nostri abbonati riserviamo contenuti esclusivi e sempre in aggiornamento.
