JAN[¹] è un assistente locale per l'IA. In pratica permette di
scaricare in locale tutte le LLM distribuite gratuitamente o
liberamente (notare che alcune LLM anche se dichiarate "open" non
lo sono effettivamente) ed eseguirle sul proprio PC garantendo
privacy e completo controllo.
[...]
l'avevo provato, ma purtroppo non permette l'utilizzo di modelli remoti, ma solo locali.
Alla fine ho preferito Ollama che, oltre ad avere una vasta comunità ed essere presente da
più tempo nel panorama, può girare come container su una macchina con GPU, esponendo API
simili a quelle di OpenAI. Con poco sforzo si può sostituire l'utilizzo di ChatGPT con questo.
La quantità di energia elettrica consumata per l'esecuzione del
modello è impressionante (probabilmente con un PC con GPU potenti è
inferiore). Questo mi ha fatto capire perché stanno cercando di
No, le schede video consumano molta energia
accaparrarsi energia elettrica per far funzionare i datacenter che
gestiscono l'IA (riattivando centrali a carbone o atomiche, costruendo
centrali atomiche apposite e gestite dalla società che regola l'IA).
Il tutto per avere delle "risposte" con alta probabilità di non essere
vere e alcune volte sono talmente verosimili che alterano la realtà
introducendo piccole falsità che poi possono essere prese come assunti
da tutti o da molti.
Ma il problema è di chi assume siano vere quelle risposte! Cosa c'entra l'AI? o meglio i LLM?
Il loro compito è mica detenere la verità assoluta, solo generare testo (o immagini nel caso)
basandosi su calcoli probablistici e random seeds.
A volte sembrano umani? Sì, tant'è che come detto alcune passano il test di turing.
C'è da fidarsi ciecamente? Direi di no. Sono assistenti, ti fanno risparmiare un sacco di tempo
nel fare task noiosi o possono darti una mano con degli spunti interessanti, ma non puoi dirgli
per esempio, "scrivi un libro" (o meglio, puoi, ma viene una schifezza). Quello che puoi fare è
chiedergli "cosa può succedere al protagonista della storia a questo punto? suggeriscimi alcuni
eventi che portino il protagonista a confrontarsi con il tema XYZ."
[...]
Secondo me l'IA contribuirà al riscaldamento globale e all'alterazione
della realtà. Quindi meglio non usarla.
Meglio non usarla anche per un altro motivo. Mi ricordo di aver letto
tempo fa che avevano fatto uno studio sui taxisti di New York (se non
ricordo male) e l'Alzheimer[¼]. Era risultata una correlazione tra tale
malattia e chi si affidava al 100% al GPS.
il 100% delle persone beve acqua muore, non fatelo!!
Inoltre anche respirare contribuisce al riscaldamento globale, se ci tieni al pianeta smetti subito!
Scherzi a parte, preferisco conoscere e poter mettere mano a qualcosa che, volenti o nolenti,
entrerà nelle nostre vite da qualunque parte. Se AI deve essere, che sia open. Nascondere la testa
nella sabbia non ha mai portato a nulla di buono
Quindi non usare il proprio cervello alla fine può avere conseguenze
negative.