l'inizio di una nuova rivoluzione: AI

[FunMBnel]

L'unica volta in cui mi sono affidato completamente all'AI per redigere un testo complesso, contenente molti dati, quella stessa AI (ChatGpt) ha restituito dati presi da fonti disomogenee/inattendibili e in un caso addirittura inventate... ho dovuto rivedere 20 tabelle inserite in quell'articolo a anche una manciata di grafici andando a leggermi tutte le fonti e riscrivere una buona parte dei paragrafi perché le considerazioni erano viziate dagli errori nei dati... "spannometricamente" l'intero lavoro di revisione mi ha richiesto (quasi) lo stesso tempo che mi avrebbe richiesto scrivere l'articolo se ne fossi stato il redattore al 100%...

Da allora in poi ho usato l'AI solo per "imbastire" l'eventuale struttura dei testi o per farmi redigere una bibliografia APA (ma i testi citati li scelgo io) o al limite, anche se non sono un informatico e ne capisco il poco che mi è necessario, se devo scrivere pezzi di codice.

P.S. vi garantisco che le query che avevo usato erano precisissime ma l'AI ha provato a chiudere dei "buchi" informativi perché probabilmente non aveva individuato una fonte per un determinato dato, inventandosene una di sana pianta, o almeno questo è il sospetto che ho avuto...

Quindi sei tu quello che scrisse quell'articolo finito sul giornale che terminava con "articolo generato da AI non adatto alla pubblicazione, verificare fonti ecc. ecc."?

[elz]

All'improvviso le RAM stanno diventando costose grazie al boom dei data center per l'AI.

Just a moment...

[burian br]

Ecco, questo è l'unico uso dell'AI che non riesco a capire/tollerare, vista l'infima qualità dei risultati restituiti da AI Overwiew di Google ogni volta che si fa una ricerca un minimo complessa/specialistica... Addirittura ho installato un'estensione per bloccarla quando sono "costretto" a usare Google. In compenso utilizzo ChatGpt e altre AI per semplificarmi il lavoro redazionale di determinati testi, ma il tempo che poi impiego per verifiche e correzioni (e anche per formulare le query) è significativo, anche se usare le AI lo accorcia notevolmente.

Ti devo dire, almeno per quanto mi riguarda (materie mediche) per la ricerca di informazioni veloci circa malattie o farmaci, mi ci sono trovato molto bene.
Al tempo stesso, io credo dipenda dalla quantità delle fonti circa ciò che chiedi: per materie mediche, ad esempio, spesso i primi risultati di Google sono buoni o ottimi vista la serietà dell'argomento, quindi credo che questo possa effettivamente influire anche sul risultato in termini di risposta dell'AI. In quel senso, è effettivamente utile invece di esaminare ogni link della prima pagina di Google (cosa che avresti fatto lo stesso) leggere il resoconto dell'AI. Poi io concepisco sempre ciò che restituisce l'AI non come fonte di informazione ma come strumento per supportare ciò che hai studiato e capito, da sottolineare.

Mi sono posto però proprio la domanda: e se i primi risultati di Google fossero pessimi per scarsità di fonti o scarsa qualità delle stesse?
Un esempio si trova sulla meteorologia, che è un argomento più di nicchia su certi temi: le risposte dell'AI sono vaghe e aspecifiche, quando sono specifiche comunque non vanno tanto nel succo o sono grossolanee perchè le fonti su Google italiano da cui attinge sono di qualità media spesso in termini di contenuto, fatto da o per un pubblico non specialistico.

[Gianni78ba]

Ti devo dire, almeno per quanto mi riguarda (materie mediche) per la ricerca di informazioni veloci circa malattie o farmaci, mi ci sono trovato molto bene.
Al tempo stesso, io credo dipenda dalla quantità delle fonti circa ciò che chiedi: per materie mediche, ad esempio, spesso i primi risultati di Google sono buoni o ottimi vista la serietà dell'argomento, quindi credo che questo possa effettivamente influire anche sul risultato in termini di risposta dell'AI. In quel senso, è effettivamente utile invece di esaminare ogni link della prima pagina di Google (cosa che avresti fatto lo stesso) leggere il resoconto dell'AI. Poi io concepisco sempre ciò che restituisce l'AI non come fonte di informazione ma come strumento per supportare ciò che hai studiato e capito, da sottolineare.

Mi sono posto però proprio la domanda: e se i primi risultati di Google fossero pessimi per scarsità di fonti o scarsa qualità delle stesse?
Un esempio si trova sulla meteorologia, che è un argomento più di nicchia su certi temi: le risposte dell'AI sono vaghe e aspecifiche, quando sono specifiche comunque non vanno tanto nel succo o sono grossolanee perchè le fonti su Google italiano da cui attinge sono di qualità media spesso in termini di contenuto, fatto da o per un pubblico non specialistico.

Da quello che emerge uno dei veri usi della AI dovrebbe essere la scansione dei risultati della diagnostica per immagini, ci sono risultati tangibili al riguardo.

[Tarcii]

Da quello che emerge uno dei veri usi della AI dovrebbe essere la scansione dei risultati della diagnostica per immagini, ci sono risultati tangibili al riguardo.

Notizia che capita proprio nel momento giusto, questa. Ricordo ancora che quando avevo iniziato l'università questa tecnologia era solamente all'inizio, adesso si sta iniziando a implementare in maniera pratica, in meno di 5 anni.
Just a moment...

[snowaholic]

Secondo me è fondamentale tenere sempre a mente cosa fanno (e cosa non fanno) le reti neurali che sono alla base di quasi tutti i modelli che vengono definiti IA.

Ciò che riescono a fare molto bene è il riconoscimento dei pattern, ovvero collegare tanti elementi distinti verso un determinato output, a partire da un insieme di addestramento (ormai tutto il web nel caso dei LLM) che viene analizzato alla ricerca di queste correlazioni.
Questa tecnica è sicuramente una forma di intelligenza, ma è anche molto diversa da una intelligenza generale come quella umana. Può essere estremamente efficace in alcuni ambiti come formulare una diagnosi a partire dai sintomi di un paziente o dagli esiti di test diagnostici (a immagine o meno), perché formulare una diagnosi è essenzialmente una attività di riconoscimento di pattern. Ciò che non è minimamente in grado di fare è gestire nel complesso le interazioni con un paziente, quindi non è un medico.


Allo stesso modo può facilmente riconoscere un autorigenerante in Friuli mettendo insieme i dati meteorologici con la caratteristiche climatiche della zona, perché questo tipo di attività rientra nella stessa categoria concettuale. Ciò che non è un grado di fare, anche se scrive di averlo fatto, è applicare la fisica, perché non è un grado di capire i processi causali e applicarli in maniera coerente.


Non ha un modello astratto di come funziona il mondo, si limita a simularlo tramite lo studio delle correlazioni. Vale lo stesso anche per i modelli meteo, i modelli fondati sull'IA non ricostruiscono la previsione sulla base dei processi fisici, si limitano ad osservare cosa è successo in situazioni simili in passato e producono una previsione di cosa è più probabile succeda nel passaggio successivo. Alla lunga possono produrre previsioni totalmente irrealistiche, ma comunque vicine alla media di quello che succede realmente (l'algoritmo minimizza l'errore) mentre in modello fondato sulla fisica fa prevalere la coerenza della previsione rispetto alla minimizzazione di una funzione di errore (quindi nelle verifications il modello IA ha risultati mediamente migliori).


Quindi finché il paradigma tecnologico resta questo, non possiamo aspettarci coerenza o precisione al di fuori dei compiti che richiedono la mera analisi o riproduzione di un pattern che il modello ha potuto studiare. La credibilità dell'output prevale sull'accuratezza per il modo stesso in cui sono costruiti, quindi guai ad accettarlo in maniera acritica.

[Gianni78ba]

Secondo me è fondamentale tenere sempre a mente cosa fanno (e cosa non fanno) le reti neurali che sono alla base di quasi tutti i modelli che vengono definiti IA.

Ciò che riescono a fare molto bene è il riconoscimento dei pattern, ovvero collegare tanti elementi distinti verso un determinato output, a partire da un insieme di addestramento (ormai tutto il web nel caso dei LLM) che viene analizzato alla ricerca di queste correlazioni.
Questa tecnica è sicuramente una forma di intelligenza, ma è anche molto diversa da una intelligenza generale come quella umana. Può essere estremamente efficace in alcuni ambiti come formulare una diagnosi a partire dai sintomi di un paziente o dagli esiti di test diagnostici (a immagine o meno), perché formulare una diagnosi è essenzialmente una attività di riconoscimento di pattern. Ciò che non è minimamente in grado di fare è gestire nel complesso le interazioni con un paziente, quindi non è un medico.


Allo stesso modo può facilmente riconoscere un autorigenerante in Friuli mettendo insieme i dati meteorologici con la caratteristiche climatiche della zona, perché questo tipo di attività rientra nella stessa categoria concettuale. Ciò che non è un grado di fare, anche se scrive di averlo fatto, è applicare la fisica, perché non è un grado di capire i processi casuali e applicarli in maniera coerente.


Non ha un modello astratto di come funziona il mondo, si limita a simularlo tramite lo studio delle correlazioni. Vale lo stesso anche per i modelli meteo, i modelli fondati sull'IA non ricostruiscono la previsione sulla base dei processi fisici, si limitano ad osservare cosa è successo in situazioni simili in passato e producono una previsione di cosa è più probabile succeda nel passaggio successivo. Alla lunga possono produrre previsioni totalmente irrealistiche, ma comunque vicine alla media di quello che succede realmente (l'algoritmo minimizza l'errore) mentre in modello fondato sulla fisica fa prevalere la coerenza della previsione rispetto alla minimizzazione di una funzione di errore (quindi nelle verifications il modello IA ha risultati mediamente migliori).


Quindi finché il paradigma tecnologico resta questo, non possiamo aspettarci coerenza o precisione al di fuori dei compiti che richiedono la mera analisi o riproduzione di un pattern che il modello ha potuto studiare. La credibilità dell'output prevale sull'accuratezza per il modo stesso in cui sono costruiti, quindi guai ad accettarlo in maniera acritica.

Chiarissimo
Come sempre, su tutto