Cosa ci fanno capire gli errori delle intelligenze artificiali come ChatGPT

I Chatbot come ChatGPT di OpenAI hanno portato in poco tempo l’intelligenza artificiale generativa al grande pubblico, ma ancora sono lontane dalla perfezione. Cosa ci insegnano questi errori.

La scorsa settimana il CEO di Microsoft Satya Nadella ha proclamato con entusiasmo al mondo che il nuovo motore di ricerca Bing, che incorpora l’IA, “farà ballare” Google. Rappresentando in tal modo una seria minaccia alla sua egemonia sul mercato.

Il nuovo Bing si avvale di un piccolo programma chiamato ChatGPT che segna un miglioramento sostanziale nella capacità dei computer di comprendere l’inglese.

I progressi nel campo dell’apprendimento automatico hanno permesso di capire virtualmente come rispondere a qualsiasi richiesta di informazioni, utilizzando miliardi di righe di testo, la maggior parte delle quali prese direttamente da Internet.

Bard in risposta a ChatGPT

Presentando Bard, la sua risposta a ChatGPT, e promettendo di includere la tecnologia nei propri risultati di ricerca, Google ha di fatto ballato la canzone di Satya. Il più grande motore di ricerca cinese, Baidu, ha dichiarato di stare sviluppando capacità analoghe.

La scorsa settimana Microsoft ha dimostrato come Bing possa utilizzare ChatGPT per fornire risposte complicate e approfondite alle ricerche. Ha prodotto riepiloghi finanziari, ha offerto consigli sui prodotti in base ai dati raccolti da numerose recensioni e ha fornito indicazioni per capire se un mobile può entrare in una monovolume confrontando le dimensioni pubblicate online. Ha anche creato un itinerario per un viaggio a Città del Messico e ha generato riepiloghi finanziari.

Bing è stato messo alla prova in occasione del lancio e, pur essendo in grado di rispondere a una serie di interrogazioni, è risultato decisamente carente e persino insicuro del proprio nome. Inoltre, alcuni dei risultati mostrati da Microsoft non erano così sorprendenti come apparivano all’inizio, come ha osservato un astuto commentatore.

Questa settimana, quando il nuovo Bing è stato reso accessibile a un numero maggiore di beta tester, sono emersi altri problemi. Sembra che si tratti di una disputa sull’anno con un utente e di una crisi esistenziale quando gli si chiede di dimostrare la propria senzienza. Quando sono stati scoperti difetti significativi nelle risposte prodotte da Bard nel filmato dimostrativo dell’azienda, il valore di mercato di Google è crollato di ben 100 miliardi di dollari.

Perché questi giganti della tecnologia commettono tali errori? Il motivo è da ricercare nel modo particolare in cui ChatGPT e altri modelli di IA analoghi funzionano davvero, oltre che nell’estrema pubblicità del momento.

Il problema con le intelligenze artificiali generative al giorno d’oggi

ChatGPT e altri algoritmi analoghi sono confusi e ingannevoli perché forniscono risposte attraverso ipotesi informate. Basandosi su rappresentazioni statistiche di lettere, frasi e paragrafi, ChatGPT costruisce ciò che ritiene debba seguire la domanda. Il creatore del chatbot, OpenAI, ha perfezionato questo meccanismo fondamentale per produrre risposte più piacevoli, chiedendo alle persone un feedback positivo ogni volta che il modello produce risposte che sembrano accurate.

La possibilità di creare un’apparenza di conoscenza con ChatGPT può essere sorprendente e divertente in alcune situazioni d’uso. Tuttavia, la stessa procedura “allucinerà” informazioni false. Questo problema potrebbe essere tra i più significativi che la tecnologia deve affrontare in questo momento.

La minaccia è accresciuta dall’enorme attesa e dall’eccitazione che circonda ChatGPT e i bot analoghi. Molte persone prenderanno per oro colato il fatto che startup ben finanziate, alcune delle aziende di maggior valore al mondo e i personaggi più noti del settore tecnologico affermino che i chatbot sono la prossima grande novità nel campo della ricerca, il che incoraggerà coloro che hanno dato il via alle chiacchiere a rivedere le affermazioni sull’onniscienza dell’Intelligenza Artificiale. Utilizzando il pattern matching senza effettuare il fact checking, non solo i chatbot potrebbero essere fuorviati.