l'inizio di una nuova rivoluzione: AI

[snowaholic]

Oggi ho per la prima volta provato ChatGPT e l'ho fatto su due campi: calcolo delle probabilità e storia medievale, due ambiti che conosco abbastanza e su cui c'è bisogno di invettiva ed elaborazione.


Mi sono incazzato, c'è poco da fare: è una deficienza artificiale.
Per la precisione, mi sembrava come a scuola quando c'era lo studente che imparava a memoria la lezione e alle interrogazioni rispondeva a pappagallo, senza mai possedere appieno il concetto. Mi sono innervosito perchè continuavo a farli notare cose imprecise, errori, e la deficienza artificiale continuava a darmi le solite risposte circolari che non portavano da nessuna parte, non rendendosi conto nè di quel che volessi dire e quando sembrava lo avesse colto non rendendosi conto di star autocontraddicendo quello che poche risposte prima aveva detto!

Sulle domande di storia, ho trovato una notevole lacuna. Manca il pensiero critico, riportava a menadito le cose che sa chiunque e che spesso non sono neppure del tutto vere perchè nella storia non ci sono risposte bianche o nere ma grigie; insomma, un essere umano competente avrebbe dato risposte MOLTO più argomentate, riflessive, illuminanti.


In sintesi, manca di pensiero critico, e solo un gran oratore: anche questo lo fa assomigliare allo studente che sapeva parlare bene a scuola, tanti giri di parole che ti perdi, magari usando paroloni e facendo esempi anche mirati così che ad una certa ti confondi e dici: "guarda tu, sembra davvero che sa le cose".

Perfetto, hai centrato in pieno il problema.
Il guaio è proprio che può raccontare una marea di corbellerie in maniera assolutamente credibile.

Peraltro questo non è un limite specifico di ChatGPT, superabile migliorando l'algoritmo, è intrinseco nella struttura di ciò che viene chiamato ora "intelligenza artificiale". Non è realmente intelligente, è solo un algoritmo che replica i pattern che osserva nei dati con cui è stato addestrato, punto.

Consuma quantità abnormi di energia ma per avere qualcosa di realmente intelligente servirebbe un cambio completo di paradigma, per quanto alcune applicazioni valide le hanno anche le IA attuali.

[burian br]

Perfetto, hai centrato in pieno il problema.
Il guaio è proprio che può raccontare una marea di corbellerie in maniera assolutamente credibile.

Peraltro questo non è un limite specifico di ChatGPT, superabile migliorando l'algoritmo, è intrinseco nella struttura di ciò che viene chiamato ora "intelligenza artificiale". Non è realmente intelligente, è solo un algoritmo che replica i pattern che osserva nei dati con cui è stato addestrato, punto.

Consuma quantità abnormi di energia ma per avere qualcosa di realmente intelligente servirebbe un cambio completo di paradigma, per quanto alcune applicazioni valide le hanno anche le IA attuali.

Dopo averla usata mi sono fortemente ricreduto sulle sue potenzialità. Non so come si comporterebbe come mero esecutore di compiti (ad esempio: trovami delle sequenze consecutive di dati con siffatte caratteristiche), ma per quanto concerne le domande secche le risposte che ho letto sono un simulacro di cose comuni ma senza andare mai affondo, e talvolta sbagliando.
Un esempio stupido: ho chiesto quando fosse caduto l'impero romano, e ChatGPT mi ha risposto che quello d'Occidente è caduto nel 476 d.C ma quello d'Oriente nel 1453. Poi però mi ha detto che era noto come "impero bizantino", inesattezza storica visto che il termine "bizantino" non è mai stato usato nel Medioevo, è nato nel periodo moderno/contemporaneo. E questa era una domanda piuttosto elementare...sembra una corbelleria, nessuno se non chi magari ha studiato può sapere questa cosa che probabilmente è pure un sofismo, però intanto è dimostrativo di come si lasci sfuggire errori veri e propri.


Sul calcolo delle probabilità, stendo un velo pietoso. Ho chiesto di calcolarmi delle probabilità di eventi che da come avevo scritto si intuiva non fossero indipendenti, e mi ha usato una distribuzione che presupponeva che questi lo fossero...