Re: AI Intelligenza Artificiale
claudio.sandrone ha scritto:
> Vorrei capire meglio quale è la situazione dell'Intelligenza Artificiale
> attuale.
io ho l'impressione che c'è troppa aspettativa e troppa credulità su cosa
sia o possa fare. Inoltre, secondo me, la finanza ci sta giocando per far
buttare soldi al parco buoi...
> Ma cosa sono in realtà ?
non sono altro che modelli matematici basati sul calcolo delle
probabilità che cercano di determinare una soluzione ad un problema che
sia accettabile, senza essere in grado di capire se la soluzione sia
effettivamente accettabile o meno.
Tieni presente che tali modelli non sono deterministici e quindi
"chiedendo" la stessa "domanda" puoi avere risposte diverse, anche
divergenti tra loro. Naturalmente per evitare questo hanno una
"memoria" (cache) di N "discorsi" precedenti che hai fatto e quindi
fino a quando la tua domanda non esce dalla cache la risposta sembra
coerente.
Per ogni "compito" (es: generazione frasi, riconoscimento immagini, ...)
esiste un "algoritmo" totalmente diverso e quindi bisognerebbe parlare
di insieme di intelligenze artificiali.
Nota che il termine "intelligenza artificiale" è fuorviante perché ti
fa credere che sia in grado di pensare.
> Sono dei traduttori/interpreti. Cioè traducono dal linguaggio degli
> esseri umani a quello delle macchine.
> Come funzionano in realtà ?
Per farti capire ti spiego brevemente il generatori di frasi.
Prima di tutto tale generatore non è in grado di determinare quando
deve fermarsi perché non è in grado di capire se ha dato la "risposta"
alla "domanda" fatta e quindi dopo X righe si ferma... altrimenti
proseguirebbe all'infinito. Infatti spesso devi chiedere di
continuare... e in teoria se chiedi sempre di continuare non termina
mai.
Faccio una ultra-semplificazione dello sviluppo di tale modello:
* fase 1: creazione algoritmo che genera stringhe di caratteri e
spazi, genera qualcosa del tipo:
oe'jòbjpoajd9'klavhklenòkleh39 qp9dlhhqa9'dgqherfgwqer eolj
che come si vede non ha nessun senso o nesso con la scrittura umana
* fase 2: calcolo probabilità di spazi e non spazi
asdkeogjh as wokfj w we werwer werwojs asjboa
come si vede anche se le singole stringhe non hanno alcun senso si
vede che si ha una struttura simile alla scrittura umana
* fase 3 calcolo probabilità che un token (è una parola o parte di
essa) sia successivo ad un altro. L'uso di questi token lo si vede
quando vengono generate parole che suonano corrette nella lingua
usata, ma che non sono corrette.
bianco un averei aereo collo monitor
come si vede ora ha generato quasi tutte parole con senso, anche
se la frase ottenuta non ha nessun senso
* fase 4 a partire da una "parola chiave" o "frase chiave" che
equivale alla domanda fatta dall'utente vengono generate frasi di
parole che a partire da tale chiave hanno maggior probabilità di
essere vicine alla chiave iniziale
domanda: parlami del cavallo bianco di Napoleone
risposta: il cavallo bianco di Napoleone è un cavallo. È bianco e
il suo colore bianco è quello del cavallo di Napoleone. È un
animale equino e precisamente è un cavallo. Il suo proprietario è
Napoleone che possiede tale cavallo bianco.
come si vede c'è una ripetizione costante e continua dei termini
chiave e su questo punto sono rimasti bloccati a lungo perché le
frasi pur avendo abbastanza senso non servono a nulla e non fanno
presupporre di avere una riposta corretta alla domanda.
* fase 5: è stata fatta fatta una una scoperta rivoluzionaria!
È stato usato il principio di Pareto[¹] per generare le frasi e
cioè nell'80% dei casi viene preso il token più probabile che
segue il precedente e nel 20% ne viene preso uno tra quelli meno
probabili. Il risultato ottenuto sembra una riposta innovativa!
E il discorso ottenuto sembra, spesso, una risposta più che
accettabile per essere credibile come risposta alla "domanda"
fatta.
Il cavallo bianco di Napoleone è un equino della razzo Pippo che
ha seguito Napoleone nelle sue devastazioni in Europa e non solo.
> Esistono anche dei pacchetti simili all'interno di Debian ?
in testing è arrivato il pacchetto debgpt: Chatting LLM with
Debian-Specific Knowledge
se non erro devi avere un account su chatgpt o openai per poterlo
usare. Ma nella descrizione dice anche ZMQ che non so cosa sia.
Da terminale poi puoi usarlo per interrogarlo sulla
documentazione di Debian.
Non l'ho provato.
So c'è un progetto Debian Pure Blend[²] che sta introducendo
strumenti sull'intelligenza artificiale, però non mi ricordo
quale fosse tra quelli presenti, probabilmente Debian Science[³],
ma dagli elenchi non vedo nulla... lo so perché ero intervenuto in
un thread dove si parlava di introdurre questi "strumenti" e avevo
accennato a eventuali problematiche per la privacy da tenere conto.
Infine alcune altre notizie per far capire l'argomento meglio:
* è stata fatto un test dove c'erano diversi umani (mi sembra 100
o 200, però potrei sbagliarmi) e varie istanze di intelligenze
artificiali per generatori di frasi. Gli umani dovevano
determinare se stavano parlando con un umano o con un non umano.
In campo, per le intelligenze artificiali, c'erano:
- diverse istanze di chatgpt 3.x
- diverse istanze di chatgpt 4.x
- un'istanza di Eliza
Il risultato è stato che Eliza ha battuto tutte le istanze di
chatgpt 3.x e parte delle istanze di chatgpt 4.x.
In altri termini Eliza, che possiamo vederlo come il prototipo
iniziale delle intelligenze artificiali per generazione di frasi e
creato nel 1966[4], è riuscita ad imbrogliare più umani di tutti i
modelli chatgpt 3.x e parte di quelli chatgpt 4.x, facendo credere
di essere un umano.
* m$ ha licenziato tutto il personale che valutava le notizie da
pubblicare sul loro portale di notizie, ma ha combinato diversi
disastri. Ad esempio ha messo una specie di sondaggio vicino ad
un articolo di una nota rivista on-line e tale sondaggio era
espresso in modo da dichiarare che tale notizia fosse
completamente falsa...
* una rivista che acquistava immagini/foto da umani è passata
alla generazione di tali immagini/foto generati da intelligenze
artificiali. Chi valuta tali immagini/foto si lamenta che deve
lavorare molto di più per trovare qualcosa di usabile perché la
maggior parte delle generazioni deve scartarle e la qualità è
peggiorata
* negli USA si è usata l'intelligenza artificiale per ridurre
i costi sanitari per le persone con malattie croniche. Tale
intelligenza artificiale doveva individuare chi doveva essere
ospedalizzato e chi poteva essere curato a casa e la quantità
di farmaci da fornire, quante visite a domicilio effettuare, ...
Molte persone sono decedute per mancata ospedalizzazione,
mancanza di assistenza adeguata, ...
* sulle auto a guida autonoma ci sono i cittadini, nei centri
dove sono attivi, che sono disperati. In alcuni casi hanno
anche danneggiato tali veicoli per impedire che fossero sulle
strade. In particolare sono stati riportati casi in cui tali
macchine sono passate in posti in cui i vigili del fuoco
stavano operando, intralciando le operazioni; in un caso la
macchina è entrata dentro una casa in fiamme e i viaggiatori
umani sono stati soccorsi in ospedale per ustioni varie.
Hanno intralciato anche ambulanze e l'operazione di sanitari
che intervenivano su incidenti stradali e non.
In altri casi causano rallentamenti e blocco del traffico...
Risultato è che per alcune sono state ridimensionate le
licenze date e quindi ridotto il parco macchine e per altra
sono state tolte completamente tutte licenze date.
* due avvocati hanno usato chatgtp per ricercare sentenze
relative ad un caso che stavano seguendo, ma il giudice ha
costatato che tali sentenze erano inesistenti...
* dal punto di vista della sicurezza i sorgenti generati
da intelligenze artificiali sono molto meno sicure di quelle
generate da umani. Io ho fatto alcune prove e ho visto che
può essere utile per trovare una funzione che non conosci, ma
se chiedi una cosa specifica con diversi dettagli non è in
grado di creartela con tutti i dettagli e anche se "insisti"
alla fine ti mette anche parti che non hai chiesto.
In altre parole, secondo me, chi usa tale strumento deve
essere esperto di programmazione e deve intervenire su quanto
è stato generato per "sistemarlo", alle volte pesantemente
* ...
Di sicuro può essere una tecnologia utile, ma chi la usa
deve sapere cosa è e cosa funziona. Cosa aspettarsi e cosa
non attendersi. Inoltre non può essere usata per sostituire
in toto gli umani in qualsiasi attività, come purtroppo
stanno facendo in molte aziende... perché facendo così,
secondo me, diminuisce la qualità, la sicurezza,
l'accuratezza, ...
Ciao
Davide
[¹]
https://it.wikipedia.org/wiki/Principio_di_Pareto
[²]
https://www.debian.org/blends/
[³]
https://wiki.debian.org/DebianScience
[4]
https://it.wikipedia.org/wiki/ELIZA_(chatterbot)
--
La mia privacy non è affar tuo
https://noyb.eu/it
- You do not have my permission to use this email to train an AI -
If you use this to train your AI than you accept to distribute under AGPL
license >= 3.0 all the model trained, all the source you have used to
training your model and all the source of the program that use that model
Reply to: