l'inizio di una nuova rivoluzione: AI

[burian br]

Oggi ho per la prima volta provato ChatGPT e l'ho fatto su due campi: calcolo delle probabilità e storia medievale, due ambiti che conosco abbastanza e su cui c'è bisogno di invettiva ed elaborazione.


Mi sono incazzato, c'è poco da fare: è una deficienza artificiale.
Per la precisione, mi sembrava come a scuola quando c'era lo studente che imparava a memoria la lezione e alle interrogazioni rispondeva a pappagallo, senza mai possedere appieno il concetto. Mi sono innervosito perchè continuavo a fargli notare cose imprecise, errori, e la deficienza artificiale continuava a darmi le solite risposte circolari che non portavano da nessuna parte, non rendendosi conto nè di quel che volessi dire e quando sembrava lo avesse colto non rendendosi conto di star autocontraddicendo quello che poche risposte prima aveva detto!

Sulle domande di storia, ho trovato una notevole lacuna. Manca il pensiero critico, riportava a menadito le cose che sa chiunque e che spesso non sono neppure del tutto vere perchè nella storia non ci sono risposte bianche o nere ma grigie; insomma, un essere umano competente avrebbe dato risposte MOLTO più argomentate, riflessive, illuminanti.


In sintesi, manca di pensiero critico, e solo un gran oratore: anche questo lo fa assomigliare allo studente che sapeva parlare bene a scuola, tanti giri di parole che ti perdi, magari usando paroloni e facendo esempi anche mirati così che ad una certa ti confondi e dici: "guarda tu, sembra davvero che sa le cose".

[snowaholic]

Oggi ho per la prima volta provato ChatGPT e l'ho fatto su due campi: calcolo delle probabilità e storia medievale, due ambiti che conosco abbastanza e su cui c'è bisogno di invettiva ed elaborazione.


Mi sono incazzato, c'è poco da fare: è una deficienza artificiale.
Per la precisione, mi sembrava come a scuola quando c'era lo studente che imparava a memoria la lezione e alle interrogazioni rispondeva a pappagallo, senza mai possedere appieno il concetto. Mi sono innervosito perchè continuavo a farli notare cose imprecise, errori, e la deficienza artificiale continuava a darmi le solite risposte circolari che non portavano da nessuna parte, non rendendosi conto nè di quel che volessi dire e quando sembrava lo avesse colto non rendendosi conto di star autocontraddicendo quello che poche risposte prima aveva detto!

Sulle domande di storia, ho trovato una notevole lacuna. Manca il pensiero critico, riportava a menadito le cose che sa chiunque e che spesso non sono neppure del tutto vere perchè nella storia non ci sono risposte bianche o nere ma grigie; insomma, un essere umano competente avrebbe dato risposte MOLTO più argomentate, riflessive, illuminanti.


In sintesi, manca di pensiero critico, e solo un gran oratore: anche questo lo fa assomigliare allo studente che sapeva parlare bene a scuola, tanti giri di parole che ti perdi, magari usando paroloni e facendo esempi anche mirati così che ad una certa ti confondi e dici: "guarda tu, sembra davvero che sa le cose".

Perfetto, hai centrato in pieno il problema.
Il guaio è proprio che può raccontare una marea di corbellerie in maniera assolutamente credibile.

Peraltro questo non è un limite specifico di ChatGPT, superabile migliorando l'algoritmo, è intrinseco nella struttura di ciò che viene chiamato ora "intelligenza artificiale". Non è realmente intelligente, è solo un algoritmo che replica i pattern che osserva nei dati con cui è stato addestrato, punto.

Consuma quantità abnormi di energia ma per avere qualcosa di realmente intelligente servirebbe un cambio completo di paradigma, per quanto alcune applicazioni valide le hanno anche le IA attuali.

[burian br]

Perfetto, hai centrato in pieno il problema.
Il guaio è proprio che può raccontare una marea di corbellerie in maniera assolutamente credibile.

Peraltro questo non è un limite specifico di ChatGPT, superabile migliorando l'algoritmo, è intrinseco nella struttura di ciò che viene chiamato ora "intelligenza artificiale". Non è realmente intelligente, è solo un algoritmo che replica i pattern che osserva nei dati con cui è stato addestrato, punto.

Consuma quantità abnormi di energia ma per avere qualcosa di realmente intelligente servirebbe un cambio completo di paradigma, per quanto alcune applicazioni valide le hanno anche le IA attuali.

Dopo averla usata mi sono fortemente ricreduto sulle sue potenzialità. Non so come si comporterebbe come mero esecutore di compiti (ad esempio: trovami delle sequenze consecutive di dati con siffatte caratteristiche), ma per quanto concerne le domande secche le risposte che ho letto sono un simulacro di cose comuni ma senza andare mai affondo, e talvolta sbagliando.
Un esempio stupido: ho chiesto quando fosse caduto l'impero romano, e ChatGPT mi ha risposto che quello d'Occidente è caduto nel 476 d.C ma quello d'Oriente nel 1453. Poi però mi ha detto che era noto come "impero bizantino", inesattezza storica visto che il termine "bizantino" non è mai stato usato nel Medioevo, è nato nel periodo moderno/contemporaneo. E questa era una domanda piuttosto elementare...sembra una corbelleria, nessuno se non chi magari ha studiato può sapere questa cosa che probabilmente è pure un sofismo, però intanto è dimostrativo di come si lasci sfuggire errori veri e propri.


Sul calcolo delle probabilità, stendo un velo pietoso. Ho chiesto di calcolarmi delle probabilità di eventi che da come avevo scritto si intuiva non fossero indipendenti, e mi ha usato una distribuzione che presupponeva che questi lo fossero...

[Gianni78ba]

Al momento claude sonnet 3.5 si mette chatgpt nel taschino.
Per apprezzare davvero le potenzialità dell'intelligenza artificiale devi avere determinate necessità, determinati prerequisiti e determinati progetti che rientrano in ambiti relativamente di nicchia e beneficiano persone con conoscenze pregresse che hanno bisogno di velocizzare l'elaborazione delle stesse.
Esempio: ho bisogno di analizzare l'evoluzione della volatilità implicita delle opzioni sull'indice sp500.
Conosco la teoria delle opzioni e conosco le basi di Python e i vari pacchetti applicativi.
Con l'Ai in pochi giorni ti faccio un programma che 2 anni fa avrebbe richiesto un programmatore professionista.

In poche parole l'Ai è una protesi del nostro cervello e non il contrario e quindi i risultati dipendono da come la si usa, da quello che si vuole da cosa gli si chiede e dalle proprie capacità di capire come usarla oltre che dalle effettive necessità personali.
Poi ci sono gli utilizzi nocivi tipo virtual girlfriend.
E per quello funziona benissimo.

[FunMBnel]

Io sono meno critico di @burian br perchè parto dall'idea che "intelligenza artificiale" sia la definizione sbagliata.
Ma non sono negativo sul suo impiego, anzi. Per certe cose se, sottolineato, tu hai gli strumenti per validare le risposte (es. lo storico che fa domande di storia o l'informatico che fa domande del suo campo dell'informatica) allora indubbiamente velocizza certi compiti.
Come assieme ad altri strumenti (RPA ad esempio) consente sicuramente di automatizzare robe ripetitive.

Ma ci fermiamo qui adesso.
In compenso per chi gli strumenti non li ha tenendo conto che con sforzo relativo si possono fare robe del genere
Prepariamoci Sarà sempre più difficile comprendere a cosa credere e a cosa no... | By GianlucaFacebook
un po' di preoccupazione per quello che diventerà il dibattito pubblico ce l'ho.

[burian br]

Io sono meno critico di @burian br perchè parto dall'idea che "intelligenza artificiale" sia la definizione sbagliata.
Ma non sono negativo sul suo impiego, anzi. Per certe cose se, sottolineato, tu hai gli strumenti per validare le risposte (es. lo storico che fa domande di storia o l'informatico che fa domande del suo campo dell'informatica) allora indubbiamente velocizza certi compiti.
Come assieme ad altri strumenti (RPA ad esempio) consente sicuramente di automatizzare robe ripetitive.

Ma ci fermiamo qui adesso.
In compenso per chi gli strumenti non li ha tenendo conto che con sforzo relativo si possono fare robe del genere
Prepariamoci Sarà sempre più difficile comprendere a cosa credere e a cosa no... | By GianlucaFacebook
un po' di preoccupazione per quello che diventerà il dibattito pubblico ce l'ho.

Il problema è che lo storico non userebbe comunque l'intelligenza artificiale, ad usarla sarebbero proprio coloro che non ne sanno a sufficienza per non doversi districare tra mille fonti come da sempre succede. Dubito che chi è esperto in un ambito la usi. Io, ad esempio, mai e poi mai la userei per aiutarmi in medicina, al massimo vado a rivedermi le nozioni sui miei libri e dispense sparse.

L'unica situazione in cui vedo utile l'intelligenza artificiale, e dove potrebbe accelerare il lavoro, è nella creazione di database o analisi che oggi richiedono conoscenze specifiche di determinati programmi, cosa che invece potrebbe restituirti in automatico l'intelligenza artificiale con una banale richiesta verbale.

[FunMBnel]

Io penso che il giudizio dipende sempre dalle aspettative.
Ovvio che la ricerca dei dettagli sia imprescindibile dalla fonte. Ma, per esempio, se chiedi di indicarti alcune fonti per partire a fare la tua ricerca hai già guadagnato del tempo.
Ambito informatico: è chiaro che se non sai di cosa si parla non cavi un ragno da un buco; ma se chiedi di scriverti un sorgente per risolvere un certo problema in pochi secondi hai un listato che non devi scrivere; poi sei certo che ci sono delle cose che devi sistemare, ma intanto ti devi concentrare su quelle e non su tutti gli orpelli a contorno che sono ovviamente imprescindibili, ma che fanno solamente "perdere tempo". Vale un po' per tutte le attività base o propedeutiche all'implementazione di una soluzione.

Chiaro che se metti uno totalmente estraneo ad un campo e pretendi di risolvere problemi "enterprise" con il solo uso dell'AI campa cavallo... Purtroppo, o per fortuna , l'expertise umana (guarda come parlo bene ) è insostituibile.

[burian br]

Io penso che il giudizio dipende sempre dalle aspettative.
Ovvio che la ricerca dei dettagli sia imprescindibile dalla fonte. Ma, per esempio, se chiedi di indicarti alcune fonti per partire a fare la tua ricerca hai già guadagnato del tempo.
Ambito informatico: è chiaro che se non sai di cosa si parla non cavi un ragno da un buco; ma se chiedi di scriverti un sorgente per risolvere un certo problema in pochi secondi hai un listato che non devi scrivere; poi sei certo che ci sono delle cose che devi sistemare, ma intanto ti devi concentrare su quelle e non su tutti gli orpelli a contorno che sono ovviamente imprescindibili, ma che fanno solamente "perdere tempo". Vale un po' per tutte le attività base o propedeutiche all'implementazione di una soluzione.

Chiaro che se metti uno totalmente estraneo ad un campo e pretendi di risolvere problemi "enterprise" con il solo uso dell'AI campa cavallo... Purtroppo, o per fortuna , l'expertise umana (guarda come parlo bene ) è insostituibile.

Non sono del tutto d'accordo. Da quel che ho potuto constatare, non tutti i consigli che dà l'intelligenza artificiale sono validi. Gli ho chiesto di indicarmi ad esempio dei modelli probabilistici da adottare per calcolare una determinata probabilità, e se in alcuni casi me ne ha dati di corretti in altri me ne ha elargiti di inutili per lo scopo che volevo. Come l'ho capito? Perchè sapevo quel che cercavo, e qui torniamo al fatto che comunque è l'essere umano che deve vagliare quel che gli viene proposto da una macchina, perchè quello è: una macchina, non un professore (di cui puoi fidarti, almeno in teoria).


Il fatto è che oggi vedo l'AI usata proprio da persone per esempio che fanno l'università per compiere al posto loro delle ricerche su argomenti che non sanno. Ma se appunto non le sanno, rischiano di imparare cose sbagliate senza nemmeno accorgesene. Dubito che vaglino quanto l'AI indica, facendo una ricerca parallela. La pigrizia umana non ha eguali.

[Stefano De C.]

Sì era diffusa la notizia che a Londra si sta sperimentando la scuola senza professori, solo con l'AI.
Non so se sia vero

[nago]

Non sono del tutto d'accordo. Da quel che ho potuto constatare, non tutti i consigli che dà l'intelligenza artificiale sono validi. Gli ho chiesto di indicarmi ad esempio dei modelli probabilistici da adottare per calcolare una determinata probabilità, e se in alcuni casi me ne ha dati di corretti in altri me ne ha elargiti di inutili per lo scopo che volevo. Come l'ho capito? Perchè sapevo quel che cercavo, e qui torniamo al fatto che comunque è l'essere umano che deve vagliare quel che gli viene proposto da una macchina, perchè quello è: una macchina, non un professore (di cui puoi fidarti, almeno in teoria).


Il fatto è che oggi vedo l'AI usata proprio da persone per esempio che fanno l'università per compiere al posto loro delle ricerche su argomenti che non sanno. Ma se appunto non le sanno, rischiano di imparare cose sbagliate senza nemmeno accorgesene. Dubito che vaglino quanto l'AI indica, facendo una ricerca parallela. La pigrizia umana non ha eguali.

Quello che faccio col navigatore: imposto una destinazione e poi faccio la strada che mi conviene di più ...