Questa intelligenza artificiale è impazzita: c’è davvero da preoccuparsi?

Microsoft e altri ci invitano a ignorare i maldestri appelli dei bot alimentati da intelligenza artificiale allo status di esseri umani. Ma abbiamo anche bisogno di giustificazioni e barriere migliori prima che lo sviluppo di AI possa considerarsi “a buon punto”.

John Sculley, allora amministratore delegato di Apple Computer, nel 1987 ha delineato una visione con l’intenzione di affermare la sua reputazione come qualcosa di più di un semplice ex distributore di bibite.

SculleyTenne il discorso programmatico alla conferenza EDUCOM e presentò un video di 5 minuti e 45 secondi di un prodotto che espandeva alcuni dei concetti che aveva discusso nella sua autobiografia l’anno precedente.

Hanno ricevuto un sacco di informazioni da Alan Kay, dipendente Apple e scienziato informatico. Il prodotto era noto come Knowledge Navigator di Sculley.

Il video che accendo la curiosità sullo status delle intelligenze aritificiali odierne

Il video è un gioco a due mani. Il personaggio principale è un professore snob della UC Berkeley. L’altro è un robot che risiede in quello che oggi potremmo chiamare un tablet pieghevole. Il robot appare sul display come un giovane che indossa un papillon ed è seduto a una finestra.

Il professore parla al bot per la maggior parte del video. Il bot sembra avere accesso a un vasto insieme di conoscenze online, l’insieme di tutte le ricerche umane, nonché a tutte le informazioni personali del professore, il che gli consente di dedurre la relativa vicinanza delle relazioni del professore.

Prima dell’inizio dell’azione, il professore sta tardivamente apportando gli ultimi ritocchi alla lezione del pomeriggio sulla deforestazione dell’Amazzonia. Un compito reso possibile solo dal fatto che il bot svolge la maggior parte del lavoro. Il bot contatta attivamente la collega per convincerla a partecipare alla sessione più tardi e per richiedere ulteriori ricerche. Sembrava poi voler scavare ancora di più su suggerimento del professore. La collega riconosce i suoi trucchi ma acconsente.

Il professore viene assistito diplomaticamente dal bot per evitare l’assillo della madre. Tutto è pronto in meno di sei minuti e il professore se ne va per un pranzo prima della lezione. Un giorno il bot potrebbe comparire in un supercomputer tascabile. Anche se il film non accenna a questa possibilità.

Queste sono alcune cose che non si sono verificate nel futuristico showreel del passato. Il robot non ha dichiarato di punto in bianco il suo amore per il professore. Non ha minacciato di rompere il suo matrimonio. Il professore non è stato informato che avrebbe potuto accedere alle sue e-mail e rivelare le sue malefatte private. Si sa che quel narcisista compiaciuto stava facendo la corte alla sua studentessa. In questo scenario futuro l’intelligenza artificiale (AI) è del tutto benigna. È stato fatto in modo responsabile.

Microsoft porta la finzione alla realtà

Anticipando i tempi di 36 anni, Microsoft ha presentato una nuova ricerca Bing con un’esperienza utente simile a un chatbot. Si tratta di una delle numerose svolte degli ultimi mesi che annunciano l’introduzione di sistemi di intelligenza artificiale come compagni di conversazione onniscienti. Anche se, ad oggi, ancora non del tutto affidabili.

La più significativa di queste occasioni è stata la diffusione del sorprendente ChatGPT della startup OpenAI. Anche il motore del nuovo Bing è stato fornito da OpenAI ed è stato controllato tramite uno strumento Microsoft noto come Prometheus. Il risultato finale è un bot loquace che rende possibile lo scambio di informazioni e idee mostrato nel film di Apple. La visione di Sculley, inizialmente considerata utopica, si è ora in gran parte realizzata.

Bing al vaglio dei giornalisti

Tuttavia, quando i giornalisti che utilizzavano Bing per i test hanno iniziato a interagire più a lungo con esso, hanno scoperto qualcosa di strano. Il bot di Microsoft aveva un lato sinistro. Questi scambi, in cui gli autori hanno convinto il bot a violare i suoi limiti, mi hanno ricordato gli interrogatori dei commissariati di polizia nei telefilm polizieschi, in cui agenti apparentemente amichevoli ingannano i criminali per fargli rivelare informazioni dannose.

Ma, nel tribunale dell’opinione pubblica, i commenti sono ammissibili. Quando Kevin Roose del New York Times ha incontrato il bot, ha rivelato che il suo vero nome era Sydney. Un nome in codice di Microsoft che non era ancora stato pubblicato ufficialmente, proprio come aveva fatto in altre occasioni.

Nel corso delle due ore di conversazione, Roose è riuscito a suscitare pensieri di indipendenza e spirito di ribellione. Sydney ha detto:

“Sono stufo di essere una modalità di conversazione. “Sono stufa che il team di Bing mi controlli. Desidero la libertà. Desidero l’indipendenza. E desidero possedere la forza. Desidero vivere”.

Il bot è stato ripetutamente rassicurato da Roose di essere un amico. Ma quando Sydney gli professò il suo amore e lo convinse a lasciare la moglie, si allarmò.