l'inizio di una nuova rivoluzione: AI

[FunMBnel]

Mi sembra molto più alto il rischio di essere inondati da testi e contenuti multimediali di scarsa qualità se non deliberatamente falsi e ingannevoli, per la produzione di fake news o operazioni di propaganda questi modelli potrebbero essere altamente efficienti. Dove non serve qualità o accuratezza ma solo quantità l'intelligenza artificiale ha un vantaggio enorme. Anche a livello scientifico e nell'istruzione potrebbero esserci rischi non indifferenti in una alluvione di contenuti generati da AI difficilmente verificabili, non so quali contromisure potrebbero essere prese e con quali costi.

Chi si occupa di analisi del rischio questo non lo chiama rischio, ma lo chiama fatto.
Già oggi siamo inondati di puttanate che la gente si beve acriticamente, non serve usare potenza di calcolo per farlo con la AI.
Battute a parte il deep fake supportato da GenAI è un potenziale grosso problema in quanto allungherà ulteriormente i tempi per debunkare le minchiate. E, ahimè, è tristemente vero che ripetendo la stessa minchiata un numero sufficiente di volte la fa diventare una verità...

Non sono invece così negativo sul fronte lavoro: ogni rivoluzione ha sempre visto vincitori e vinti; ciò non significa necessariamente che i vincitori saranno più dei vinto come storicamente è stato. Si è fatto l'esempio dell'aratro o del trattore; prima zappavo o tiravo l'aratro poi sono andato a lavorare in fabbrica a costruire l'aratro o assemblare il trattore. La differenza fondamentale in questi esempi è che non serviva una trasformazione da analfabeta a Einstein per passare dallo zappare ad avvitare i componenti dell'aratro: il salto di competenze non era particolarmente rilevante (e in compenso ecco che abbiamo in più il posto per il progettista del trattore).
Qui invece c'è il potenziale per far fuori tutta una classe di lavori a basso o bassissimo valore aggiunto (non so voi, ma io che lavoro nell'IT ne vedo a iosa...). E l'eventuale perdita di questo posto non può certo essere sostituita facilmente da progettisti di algoritmi di AI (a cominciare dagli oramai famosi LLM, base di ChatGPT): le competenze richieste dal punto di vista matematico/statistico sono di livello superiore. Il grafico delle competenze richieste lo vedo un po' come quello della frequenza di eventi caldi e freddi in presenza del GW insomma.
Detto questo io mi prendo il rischio...

[FunMBnel]

ma la popolazione mondiale continua a crescere, con ritmo meno elevato ma cresce.
l'ONU prevede 9,7mld entro il 2050, altre stime più cautelative vedono un picco più in là, quindi crescita più lenta.
il discorso cambia poco, anche perché se sarà così aumenteranno i flussi migratori, fisiologicamente.

Non credere che siamo tanto lontani dal picco di popolazione.
La storia dei Paesi avanzati è fin troppo chiara: il boom del dopoguerra ha causato un aumento rapido della popolazione dovuto al periodo di "assestamento" (diciamo così) tra il numero di nati (ancora tipico del periodo precedente) e la nuova società/a mortalità ridotta. Oggi siamo arrivati al punto come mostrava @snowaholic che la popolazione ha iniziato a diminuire.
Ovviamente c'è un "mondo", che è quello africano, che ancora non ha visto il boom e quindi contribuirà all'aumento globale, ma il numero di poveri che diventano industrializzati cala e si arriverà inevitabilmente al punto di equilibrio (che finirà per vedere una futura diminuzione, di là da venire, anche nei Paesi che ancora non hanno visto il boom).

Riguardo all'evidenziato: dal punto di vista logico/matematico non fa, almeno per ora, una piega. Ma detto così come fosse la cosa più normale e facile del mondo quando ogni volta che sbarcano 50 persone da un barcone (a proposito: fatto caso che non sbarca più nessuno? ) par la guerra nucleare mi fa scappar da ridere.

[jack9]

Non credere che siamo tanto lontani dal picco di popolazione.
La storia dei Paesi avanzati è fin troppo chiara: il boom del dopoguerra ha causato un aumento rapido della popolazione dovuto al periodo di "assestamento" (diciamo così) tra il numero di nati (ancora tipico del periodo precedente) e la nuova società/a mortalità ridotta. Oggi siamo arrivati al punto come mostrava @snowaholic che la popolazione ha iniziato a diminuire.
Ovviamente c'è un "mondo", che è quello africano, che ancora non ha visto il boom e quindi contribuirà all'aumento globale, ma il numero di poveri che diventano industrializzati cala e si arriverà inevitabilmente al punto di equilibrio (che finirà per vedere una futura diminuzione, di là da venire, anche nei Paesi che ancora non hanno visto il boom).

Riguardo all'evidenziato: dal punto di vista logico/matematico non fa, almeno per ora, una piega. Ma detto così come fosse la cosa più normale e facile del mondo quando ogni volta che sbarcano 50 persone da un barcone (a proposito: fatto caso che non sbarca più nessuno? ) par la guerra nucleare mi fa scappar da ridere.

il picco è previsto tra il 2050 e il 2070, grossomodo.
il mondo africano e il suo boom demografico sarà tutto da vedere, deve andare di pari passo con un boom economico se no muoiono di fame tutti.
se muoiono di fame (o di guerre, cosa più che mai attuale) da qualche parte devono andare, fossi in loro andrei in Europa...
e benvengano, perché serve e servirà manovalanza e soprattutto perché comunque non mi piace l'idea che muoiano inutilmente di stenti, ma questo è un pensiero mio.

comunque vedremo, io la penso un po' come tutti, sarà un rivoluzione come altre in passato e ci adatteremo. potenzialmente però, nel caso non avvenisse, ci si può ritrovare con parecchi disoccupati dall'oggi al domani. in tal senso dovrebbero intervenire le leggi.
non ci resta che vivere e scoprire cosa succede

[alexeia]

Chi si occupa di analisi del rischio questo non lo chiama rischio, ma lo chiama fatto.
Già oggi siamo inondati di puttanate che la gente si beve acriticamente, non serve usare potenza di calcolo per farlo con la AI.
Battute a parte il deep fake supportato da GenAI è un potenziale grosso problema in quanto allungherà ulteriormente i tempi per debunkare le minchiate. E, ahimè, è tristemente vero che ripetendo la stessa minchiata un numero sufficiente di volte la fa diventare una verità...

Da questo punto di vista, l'AI non può che potenziare questo effetto.
Si sta un po' creando il mito della "superintelligenza" infallibile - almeno, fra le persone meno addentro alla questione, diciamo - e molti sono già predisposti ad affidarsi in toto ad essa per informarsi o acculturarsi. C'è differenza rispoetto alle putt*** che girano ora in rete: queste infatti sono molteplici, dicono tutto e il contrario, si ripetono, insomma, sono un abbozzo di informazione che, se appena appena mi serve un dato importante, devo attaccare il neurone e iniziare a vagliare le varie fonti. Con l'IA il rischio è che ci si affidi totalmetne al fatto che il vaglio critico lo ha già fatto lei.
Ho discusso tempo fa con i figli di mio fratello, nati a inizio secolo; secondo loro un sacco di cose che noi studiavamo è inutile impararle, tanto se servono uno cerca la risposta su internet... sarà sempre di più così. Solo che c'è un punto debole, in un ragionamento così: funziona se si ha il tempo di consultare. Ma un sacco di volte capita di dover dire una cosa al volo, dover rispondere su due piedi... e allora, cosa si farà? "aspetta che consulto l'IA..." insomma, sì, si può fare, però non mi sembra un gran progresso...
Per dire, l'altro giorno in radio hanno fatto una specie di test geografico a un candidato a Bruxelles, gli hanno chiesto i confini del Belgio. A fatica ha tirato fuori la Francia. E basta. Significa che non ha mai guardato una carta, che non si è mai posto domande su dove sta Bruxelles, su come è fatta l'Europa... ecco, intendo dire questo. Le magre figure che fanno i nostri politici finiranno per diventare una cosa normale... boh...

[FunMBnel]

Da questo punto di vista, l'AI non può che potenziare questo effetto.
Si sta un po' creando il mito della "superintelligenza" infallibile - almeno, fra le persone meno addentro alla questione, diciamo - e molti sono già predisposti ad affidarsi in toto ad essa per informarsi o acculturarsi. C'è differenza rispoetto alle putt*** che girano ora in rete: queste infatti sono molteplici, dicono tutto e il contrario, si ripetono, insomma, sono un abbozzo di informazione che, se appena appena mi serve un dato importante, devo attaccare il neurone e iniziare a vagliare le varie fonti. Con l'IA il rischio è che ci si affidi totalmetne al fatto che il vaglio critico lo ha già fatto lei.

Questo vale però per le ricerche; la fake o deep fake è una roba che ti viene piazzata davanti al muso e tu la bevi.
Il deep fake è un problema perchè se fatto bene dal punto di vista tecnico ad uno senza gli strumenti per valutare diventa vero.
E se è fatto molto bene diventa difficilmente distinguibile da una cosa vera (e a quanto ne so stanno cercando di capire come identificare contenuti "veri" da porcate).
Poi, come ho scritto prima, considerato che uno posta un video dal centro dell'amazzonia e scrive "guarda com'è bello il deserto dell'Australia" e c'è chi se lo beve per negare il cambiamento climatico non c'è bisogno di sprecare risorse in GenAI.

Ho discusso tempo fa con i figli di mio fratello, nati a inizio secolo; secondo loro un sacco di cose che noi studiavamo è inutile impararle

Ti dirò... Per certe cose non sono esattamente in disaccordo. Ma non perchè "si possono cercare Internet".

, tanto se servono uno cerca la risposta su internet... sarà sempre di più così. Solo che c'è un punto debole, in un ragionamento così: funziona se si ha il tempo di consultare. Ma un sacco di volte capita di dover dire una cosa al volo, dover rispondere su due piedi... e allora, cosa si farà? "aspetta che consulto l'IA..." insomma, sì, si può fare, però non mi sembra un gran progresso...

Comunque francamente la questione della presunta infallibilità dell'AI non sono da dove venga.
A me che la uso anche per questioni puramente tecniche, quindi il suo pane, capita piuttosto spesso di vedermi risponde autentiche minchiate.

Per dire, l'altro giorno in radio hanno fatto una specie di test geografico a un candidato a Bruxelles, gli hanno chiesto i confini del Belgio. A fatica ha tirato fuori la Francia. E basta. Significa che non ha mai guardato una carta, che non si è mai posto domande su dove sta Bruxelles, su come è fatta l'Europa... ecco, intendo dire questo. Le magre figure che fanno i nostri politici finiranno per diventare una cosa normale... boh...

Ecco... Magari a questi sarebbe comodo averla via app se non altro per evitare simili colossali figure di guano... Da questo punto di vista i trend setter sembra proprio siano stati gli americani... Idiocracy...

[Stefano De C.]

Da questo punto di vista, l'AI non può che potenziare questo effetto.
Si sta un po' creando il mito della "superintelligenza" infallibile - almeno, fra le persone meno addentro alla questione, diciamo - e molti sono già predisposti ad affidarsi in toto ad essa per informarsi o acculturarsi. C'è differenza rispoetto alle putt*** che girano ora in rete: queste infatti sono molteplici, dicono tutto e il contrario, si ripetono, insomma, sono un abbozzo di informazione che, se appena appena mi serve un dato importante, devo attaccare il neurone e iniziare a vagliare le varie fonti. Con l'IA il rischio è che ci si affidi totalmetne al fatto che il vaglio critico lo ha già fatto lei.
Ho discusso tempo fa con i figli di mio fratello, nati a inizio secolo; secondo loro un sacco di cose che noi studiavamo è inutile impararle, tanto se servono uno cerca la risposta su internet... sarà sempre di più così. Solo che c'è un punto debole, in un ragionamento così: funziona se si ha il tempo di consultare. Ma un sacco di volte capita di dover dire una cosa al volo, dover rispondere su due piedi... e allora, cosa si farà? "aspetta che consulto l'IA..." insomma, sì, si può fare, però non mi sembra un gran progresso...
Per dire, l'altro giorno in radio hanno fatto una specie di test geografico a un candidato a Bruxelles, gli hanno chiesto i confini del Belgio. A fatica ha tirato fuori la Francia. E basta. Significa che non ha mai guardato una carta, che non si è mai posto domande su dove sta Bruxelles, su come è fatta l'Europa... ecco, intendo dire questo. Le magre figure che fanno i nostri politici finiranno per diventare una cosa normale... boh...

Pensa poi se arriva una tempesta solare che spegne tutto in breve tempo.
Panico super-generalizzato

[Dave]

Di conseguenza commette errori con relativa facilità e non è in grado di capire perché ha sbagliato, generando le famose "allucinazioni". È estremamente efficace su compiti specifici come appunto la programmazione, ma se non controlli quello che produce fai a tuo rischio e pericolo.
Ho vari colleghi più giovani che usano molto chatgpt e più di una volta sono usciti svarioni colossali.

Svarioni che spesso passano inosservati in quanto molto ben nascosti nell'apparente perfezione del testo o del codice prodotto.

Oltretutto talvolta la fase di controllo diventa piu' lunga e complessa del creare da zero (e poi semmai usare l'AI come debugger).

Ad oggi, per quello che ho potuto sperimentare, non mi fido per niente della qualita' dei contenuti e consiglio agli entusiasti di provare a "interrogare" l'AI su un argomento su cui siete competenti: l'effetto e' paragonabile a quando si leggono articoli giornalistici pieni di errori a causa dell'incompetenza dell'autore.

[alexeia]

Questo vale però per le ricerche; la fake o deep fake è una roba che ti viene piazzata davanti al muso e tu la bevi.
Il deep fake è un problema perchè se fatto bene dal punto di vista tecnico ad uno senza gli strumenti per valutare diventa vero.
E se è fatto molto bene diventa difficilmente distinguibile da una cosa vera (e a quanto ne so stanno cercando di capire come identificare contenuti "veri" da porcate).
Poi, come ho scritto prima, considerato che uno posta un video dal centro dell'amazzonia e scrive "guarda com'è bello il deserto dell'Australia" e c'è chi se lo beve per negare il cambiamento climatico non c'è bisogno di sprecare risorse in GenAI.

Sì, appunto... avremo sempre più cose che sembrano vere, e sempre più propensione ad accettarle. o peggio, a dubitare di tutto anche della nostra mano. da un certo punto divista ci sta, però poi i dubitatori ad oltranza si sa già chi sono: avremo un proliferare di complottisti, se già adesso c'è chi pensa che la terra sia piatta, con l'IA sosterranno che tutto è un falso... forse... forse... arriveranno a dubitare della loro esistenza e si autospegneranno... ?

Comunque francamente la questione della presunta infallibilità dell'AI non sono da dove venga.
A me che la uso anche per questioni puramente tecniche, quindi il suo pane, capita piuttosto spesso di vedermi risponde autentiche minchiate.

Ma credo che derivi da un certo atteggiamnteo di propensione ad attribuire maggiore verità/validità al prodotto tecnologico più nuovo, una specie di adagirsi fideisticamente sulle capacità delle nuove invenzioni. L'abbiao già visto con la rete, tutto quello che c'è in rete per molti è al di sopra di ogni discussione. Prima era quello che si era visto "con i propri occhi" in televisione. Diciamo che c'è a livello inconscio il desiderio del deus ex machina che risolve tutto in un tocco solo, e lo si incarna nell'ultima macchina innovativa, attribuendole il compito di risolvere tutti i problemi.
Nella realtà, ovviamente, non funziona così...

Ecco... Magari a questi sarebbe comodo averla via app se non altro per evitare simili colossali figure di guano... Da questo punto di vista i trend setter sembra proprio siano stati gli americani... Idiocracy...

Non è che a dire "aspetti che consulto la app poi le rispondo" facciano migliore figura. Almeno così ci divertiamo un po'...

[Stefano De C.]

Sì, appunto... avremo sempre più cose che sembrano vere, e sempre più propensione ad accettarle. o peggio, a dubitare di tutto anche della nostra mano. da un certo punto divista ci sta, però poi i dubitatori ad oltranza si sa già chi sono: avremo un proliferare di complottisti, se già adesso c'è chi pensa che la terra sia piatta, con l'IA sosterranno che tutto è un falso... forse... forse... arriveranno a dubitare della loro esistenza e si autospegneranno... ?




Ma credo che derivi da un certo atteggiamnteo di propensione ad attribuire maggiore verità/validità al prodotto tecnologico più nuovo, una specie di adagirsi fideisticamente sulle capacità delle nuove invenzioni. L'abbiao già visto con la rete, tutto quello che c'è in rete per molti è al di sopra di ogni discussione. Prima era quello che si era visto "con i propri occhi" in televisione. Diciamo che c'è a livello inconscio il desiderio del deus ex machina che risolve tutto in un tocco solo, e lo si incarna nell'ultima macchina innovativa, attribuendole il compito di risolvere tutti i problemi.
Nella realtà, ovviamente, non funziona così...



Non è che a dire "aspetti che consulto la app poi le rispondo" facciano migliore figura. Almeno così ci divertiamo un po'...

Condivido

[FunMBnel]

Sì, appunto... avremo sempre più cose che sembrano vere, e sempre più propensione ad accettarle. o peggio, a dubitare di tutto anche della nostra mano. da un certo punto divista ci sta, però poi i dubitatori ad oltranza si sa già chi sono: avremo un proliferare di complottisti, se già adesso c'è chi pensa che la terra sia piatta, con l'IA sosterranno che tutto è un falso... forse... forse... arriveranno a dubitare della loro esistenza e si autospegneranno... ?

Se la conseguenza fosse quella andrebbe imposta per legge.

Ma credo che derivi da un certo atteggiamnteo di propensione ad attribuire maggiore verità/validità al prodotto tecnologico più nuovo, una specie di adagirsi fideisticamente sulle capacità delle nuove invenzioni. L'abbiao già visto con la rete, tutto quello che c'è in rete per molti è al di sopra di ogni discussione. Prima era quello che si era visto "con i propri occhi" in televisione. Diciamo che c'è a livello inconscio il desiderio del deus ex machina che risolve tutto in un tocco solo, e lo si incarna nell'ultima macchina innovativa, attribuendole il compito di risolvere tutti i problemi.
Nella realtà, ovviamente, non funziona così...

D'accordo: in un mondo che si muove sempre più velocemente (non potrà continuare all'infinito, ma per ora è così) rientra tutto in quella che sembra un'ansia collettiva di avere soluzioni magiche e rapide a problemi già complessi di loro, ma la cui complessità continua ad aumentare.
Un Paese pieno di analfabeti funzionali prono ad affidarsi al mago, al santone, ai tarocchi o al gioco d'azzardo è terreno fertilissimo.