[GUIDA] Intelligenza Artificiale – Discussione casi d'uso ed esempi

[*Ace*]

Salve a tutti amici, visto che nel thread Meta di fillippone se ne è parlato ho deciso di aprire questo argomento in questa sezione della nostra board. Non so se in offtopic si addice di più o magari era meglio in guide, in tal caso chiedo al moderatore della board di spostare questo thread.

Intanto ringrazio babo per avermi dato l'idea di redigere questo thread, apprezzerei che anche lui partecipasse con esempi in questo thread, so che lui è davvero forte in ambito informatico, io sono solo un novellino in confronto a lui.

Ok adesso bando alle ciance e partiamo con qualche piccolo esempio, premetto che non tutte le ai che vengono citate le ho utilizzate personalmente, ma ho fatto ricerche prima di scrivere questo post.

1. Creazione di immagini e avatar
Vuoi un’immagine personalizzata per il tuo profilo o un avatar unico?
Con le IA generative puoi farlo in pochi minuti:

Vai su siti come Stable Diffusion, Leonardo.ai, DALL·E o Bing Image Creator.

Scrivi un prompt (una descrizione) di quello che vuoi ottenere.
Esempio:

"Un avatar in stile cyberpunk con sfondo futuristico, colori viola e blu neon"

L’IA genererà una o più immagini pronte da usare.

Puoi rifinire il prompt per ottenere risultati sempre più precisi.


Tip: alcuni tool ti permettono anche di caricare una foto e trasformarla in un disegno/cartoon/avatar.


2. Coding con l’aiuto dell’IA
Le IA non sostituiscono i programmatori, ma sono ottime assistenti:

Puoi chiedere di scrivere uno script base in un linguaggio a tua scelta.
Esempio:

"Scrivimi uno script in Python che calcoli la media dei numeri in una lista"

Ed ecco cosa ti restituisce il tuo assistente



Puoi usare l’IA per debug e spiegazioni: incolli il tuo codice e chiedi cosa non funziona.

Puoi generare snippet riutilizzabili (es. funzioni per API, bot di Telegram, piccoli tool).


Tip: strumenti come ChatGPT, GitHub Copilot o Codeium sono tra i più usati.
Io per questo esempio ho usato Le Chat Mistral


3. Altri usi quotidiani dell’IA

Scrittura veloce di post, articoli o email.

Traduzione e semplificazione di testi tecnici. "attenzione però qui! Sul forum i post scritti da o con aiuto delle AI non sono ben visti e potreste beccarvi un ban o essere esclusi dai cm"

Creazione di riassunti, schemi o idee per nuovi progetti.


Obiettivo del thread
Questo topic serve per:

aiutare chi non ha mai usato IA a fare i primi passi,

condividere esempi pratici e link a tool utili,

rispondere alle domande dei curiosi.


Invito: se hai già sperimentato con l’IA, condividi i tuoi prompt, risultati e consigli!
Adesso la parola passa a voi, fate domande e postate pure qualche esempio di utilizzo, oppure se volete possiamo approfondire un argomento in particolare

[*Ace*]

Ma quindi?? Nessun ha domande da fare??
Suvvia ragazzi! Il mondo delle IA è un bel posto...
Le applicazioni possono essere infinite, basta dare libera immaginazione alle vostre menti
Quindi dai... Sono qui ad aspettare che ci fate avanti con idee

[gbianchi]

Ma quindi?? Nessun ha domande da fare??
Suvvia ragazzi! Il mondo delle IA è un bel posto...
Le applicazioni possono essere infinite, basta dare libera immaginazione alle vostre menti
Quindi dai... Sono qui ad aspettare che ci fate avanti con idee

Non mi fido del modello "as a service" americano, soprattutto se gratuito o quasi.

L'IA e' estremamente enrgivora, e il fatto che ti venga regalato o venduto a basso prezzo
un servizio molto costoso indica che sei una preda.

Quindi, e' possibile far girare dei modelli di LLM open source on premise?

Ovviamente non mi aspetto le perforformance di ChatGpt, ma su applicazioni verticali
si potrebbero avere risultati interessanti?

[*Ace*]

Ma quindi?? Nessun ha domande da fare??
Suvvia ragazzi! Il mondo delle IA è un bel posto...
Le applicazioni possono essere infinite, basta dare libera immaginazione alle vostre menti
Quindi dai... Sono qui ad aspettare che ci fate avanti con idee

Non mi fido del modello "as a service" americano, soprattutto se gratuito o quasi.

L'IA e' estremamente enrgivora, e il fatto che ti venga regalato o venduto a basso prezzo
un servizio molto costoso indica che sei una preda.

Quindi, e' possibile far girare dei modelli di LLM open source on premise?

Ovviamente non mi aspetto le perforformance di ChatGpt, ma su applicazioni verticali
si potrebbero avere risultati interessanti?

Far girare una LLM open source on premise tipo mistral è possibile ma si ha bisogno di un ottimo hardware, avere uno starter kit (chiamiamolo così) non ti fa fare grandi cose, molto lento.
Capisco che usare chatgpt ha i suoi pro e i suoi contro, visto che per usarlo richiedono di superare kyc, ma ci sono altre varietà di IA, tipo le chat mistral richiede solo una mail e basta

[martinom]

Bel post seguo, grazie Ace!
Io ho iniziato a usare chatgpt ma sopratutto lo uso per chiedere come fare delle cose. Se non avete visto, guardate il video di Montemagno che analizzia i dati dell'uso delle AI, ci sono cose interessanti.

[*Ace*]

Bel post seguo, grazie Ace!
Io ho iniziato a usare chatgpt ma sopratutto lo uso per chiedere come fare delle cose. Se non avete visto, guardate il video di Montemagno che analizzia i dati dell'uso delle AI, ci sono cose interessanti.

No mai visto un suo video sinceramente, ma grazie della informazione appena ho un po' di tempo mi metto a guardare qualcosa in merito.
Le applicazioni con le IA sono tante, anzi tantissime. Ovvio che per il momento non sostituiscono l'essere intelligente, ma si arriverà a questo prima o poi

[gbianchi]

Far girare una LLM open source on premise tipo mistral è possibile ma si ha bisogno di un ottimo hardware, avere uno starter kit (chiamiamolo così) non ti fa fare grandi cose, molto lento.

Sarebbe interessante capire che risorse potrebbero servire per una configurazione basic, media e  "large".

Capisco che usare chatgpt ha i suoi pro e i suoi contro, visto che per usarlo richiedono di superare kyc, ma ci sono altre varietà di IA, tipo le chat mistral richiede solo una mail e basta

Non e' un problema di KYC, o diciamo che il KYC e' la meno.

il problema e' che mentre in apparenza gli USA ci regalano servizi,
in realta' NOI stiamo mettendo nelle loro mani ogni nostro business.

Se la produzione la spostiamo tutta in asia e la parte tecnologica e di processo del business la deleghiamo agli USA,
cosa faremo nei prossimi anni? (Un ottimo esempio di cosa intendo possono essere Amazon e/o Google)

La finanza non si mangia

[*Ace*]

Far girare una LLM open source on premise tipo mistral è possibile ma si ha bisogno di un ottimo hardware, avere uno starter kit (chiamiamolo così) non ti fa fare grandi cose, molto lento.

Sarebbe interessante capire che risorse potrebbero servire per una configurazione basic, media e  "large".

Non ho le competenze necessarie per poterti dare una risposta certa.
Ma con una rapida ricerca su gugol, per un basic potrebbe bastare anche una VPS con GPU, ma come detto prima, con un basic puoi farci davvero poco. Per le altre impostazioni credo che ci vorrebbe qualcosa in più di RAM e GPU
Ma piuttosto la domanda che mi potrei sarebbe ne vale proprio la pena spendere questi soldi se non si ha l'hardware a disposizione?


Ho fatto una piccola ricerca in merito

Modello	Dimensione	Hardware consigliato (inferenza)
Mistral 7B	7B	RTX 3060 (12GB VRAM) + 16GB RAM
Llama 2 13B	13B	RTX 4090 (24GB VRAM) + 32GB RAM
Llama 2 70B	70B	2x RTX 4090 (48GB VRAM) + 64GB RAM

Quindi già ci vuole anche per il basic una impostazione non da pochissimo conto

[gbianchi]

Non ho le competenze necessarie per poterti dare una risposta certa.
Ma con una rapida ricerca su gugol, per un basic potrebbe bastare anche una VPS con GPU, ma come detto prima, con un basic puoi farci davvero poco. Per le altre impostazioni credo che ci vorrebbe qualcosa in più di RAM e GPU
Ma piuttosto la domanda che mi potrei sarebbe ne vale proprio la pena spendere questi soldi se non si ha l'hardware a disposizione?


Ho fatto una piccola ricerca in merito

Modello	Dimensione	Hardware consigliato (inferenza)
Mistral 7B	7B	RTX 3060 (12GB VRAM) + 16GB RAM
Llama 2 13B	13B	RTX 4090 (24GB VRAM) + 32GB RAM
Llama 2 70B	70B	2x RTX 4090 (48GB VRAM) + 64GB RAM

Quindi già ci vuole anche per il basic una impostazione non da pochissimo conto

Interessante, grazie.

[alexrossi]

Far girare una LLM open source on premise tipo mistral è possibile ma si ha bisogno di un ottimo hardware, avere uno starter kit (chiamiamolo così) non ti fa fare grandi cose, molto lento.

Sarebbe interessante capire che risorse potrebbero servire per una configurazione basic, media e  "large".

Non ho le competenze necessarie per poterti dare una risposta certa.
Ma con una rapida ricerca su gugol, per un basic potrebbe bastare anche una VPS con GPU, ma come detto prima, con un basic puoi farci davvero poco. Per le altre impostazioni credo che ci vorrebbe qualcosa in più di RAM e GPU
Ma piuttosto la domanda che mi potrei sarebbe ne vale proprio la pena spendere questi soldi se non si ha l'hardware a disposizione?


Ho fatto una piccola ricerca in merito

Modello	Dimensione	Hardware consigliato (inferenza)
Mistral 7B	7B	RTX 3060 (12GB VRAM) + 16GB RAM
Llama 2 13B	13B	RTX 4090 (24GB VRAM) + 32GB RAM
Llama 2 70B	70B	2x RTX 4090 (48GB VRAM) + 64GB RAM

Quindi già ci vuole anche per il basic una impostazione non da pochissimo conto

Una considerazione mia:

Considerando che giá una 4090 sono ben oltre i 1000 euro, e che in realtá i risultati migliori si hanno in una farm tendenzialmente accessibile ai soli Amazon, MS e meta, gli LLM nella loro migliore forma mi sembrano una tecnologia agli antipodi rispetto alle cripto (dove comunque si ha un accentramento di miner nelle farm, che peró per le logiche di incentivi previste hanno tutto l'interesse a lavorare in trasparenza e confermare le transazioni, mentre in un LLM si inserisce una query che non si sa che giro faccia e "magicamente" arriva una risposta di dubbia affidabilità specialmente su tematiche non binarie).

[gbianchi]

Una considerazione mia:

Considerando che giá una 4090 sono ben oltre i 1000 euro, e che in realtá i risultati migliori si hanno in una farm tendenzialmente accessibile ai soli Amazon, MS e meta, gli LLM nella loro migliore forma mi sembrano una tecnologia agli antipodi rispetto alle cripto (dove comunque si ha un accentramento di miner nelle farm, che peró per le logiche di incentivi previste hanno tutto l'interesse a lavorare in trasparenza e confermare le transazioni, mentre in un LLM si inserisce una query che non si sa che giro faccia e "magicamente" arriva una risposta di dubbia affidabilità specialmente su tematiche non binarie).

E pensa che razza di risorse servono (HW ed energetiche) per farti dare "gratis"  risposte che molte volte sono errate o inesatte,
cosi' tu le puoi correggere e sentirti dire "hai ragione", cioe'  quello che la gran parte della gente vuol sentirsi dire

In pratica risorse quasi illimitati per soddisfare in modo virtuale l'ego di una popolazione che ormai e'
frustrata sotto ogni punto di vista reale.

Poi rompono le scatole sui consumi di Bitcoin.

[babo]

Poi rompono le scatole sui consumi di Bitcoin.

appunto, non commento oltre, bitcoin digitalizza il trust.. e non e' una cosa da poco

[alexrossi]

Una considerazione mia:

Considerando che giá una 4090 sono ben oltre i 1000 euro, e che in realtá i risultati migliori si hanno in una farm tendenzialmente accessibile ai soli Amazon, MS e meta, gli LLM nella loro migliore forma mi sembrano una tecnologia agli antipodi rispetto alle cripto (dove comunque si ha un accentramento di miner nelle farm, che peró per le logiche di incentivi previste hanno tutto l'interesse a lavorare in trasparenza e confermare le transazioni, mentre in un LLM si inserisce una query che non si sa che giro faccia e "magicamente" arriva una risposta di dubbia affidabilità specialmente su tematiche non binarie).

E pensa che razza di risorse servono (HW ed energetiche) per farti dare "gratis"  risposte che molte volte sono errate o inesatte,
cosi' tu le puoi correggere e sentirti dire "hai ragione", cioe'  quello che la gran parte della gente vuol sentirsi dire

In pratica risorse quasi illimitati per soddisfare in modo virtuale l'ego di una popolazione che ormai e'
frustrata sotto ogni punto di vista reale.

Poi rompono le scatole sui consumi di Bitcoin.

Questo secondo me merita un thread a parte. É giá molto frequente trovare lavoratori senior che sostengono l'efficacia dell'IA unita all'esperienza nel settore per correggere svarioni anche grossi nelle risposte.

In pratica l'IA da sola, su temi critici, non consente di efficientare "a nastro" perché serve un occhio umano di revisione. Rimangono i costi energetici molto alti uniti a un output non proprio chiaro. Reiterando, Bitcoin é trasparente by design, io posso esattamente sapere che tot energia elettrica (se sono io il miner, o comunque stimare in maniera precisa le altre farm) é andata a creare il tale blocco. Una farm IA, in un unitá di tempo equivalente (1h ad esempio) esattamente cosa fa? Dove concentra le energie per giustificare i consumi? Ad es. esiste un momento in cui la farm puó rimanere in idle perché ha giá scandagliato google da cima a fondo?

[gbianchi]

Questo secondo me merita un thread a parte. É giá molto frequente trovare lavoratori senior che sostengono l'efficacia dell'IA unita all'esperienza nel settore per correggere svarioni anche grossi nelle risposte.

Mah... ci sono tanti argomenti che meriterebbero thread a parte, ma tanto non serve a niente.

Tutte le infrastrutture tecnologiche che ci mettono a disposizione servizi "gratuiti" USA,
sono in realta' strumenti di controllo e profilazione.

Pensa a gmail, cloudflare, whatsapp e cosi' via all'infinito...
tutta sta' roba a tenerla su costa miliardi di miliardi di dollari, e gli USA non lo fanno certo per beneficenza.

l'unica differenza che vedo e' che l'IA scala in alto i costi di gestione di almeno un ordine di grandezza, forse anche di piu',
sempre per offrire servizi in gran parte gratuiti, quindi suppongo che come strumento di controllo e profilazione sia ben piu'
potente e insinuante dei precedenti.

[Lillominato89]

Far girare una LLM open source on premise tipo mistral è possibile ma si ha bisogno di un ottimo hardware, avere uno starter kit (chiamiamolo così) non ti fa fare grandi cose, molto lento.

Sarebbe interessante capire che risorse potrebbero servire per una configurazione basic, media e  "large".

Non ho le competenze necessarie per poterti dare una risposta certa.
Ma con una rapida ricerca su gugol, per un basic potrebbe bastare anche una VPS con GPU, ma come detto prima, con un basic puoi farci davvero poco. Per le altre impostazioni credo che ci vorrebbe qualcosa in più di RAM e GPU
Ma piuttosto la domanda che mi potrei sarebbe ne vale proprio la pena spendere questi soldi se non si ha l'hardware a disposizione?


Ho fatto una piccola ricerca in merito

Modello	Dimensione	Hardware consigliato (inferenza)
Mistral 7B	7B	RTX 3060 (12GB VRAM) + 16GB RAM
Llama 2 13B	13B	RTX 4090 (24GB VRAM) + 32GB RAM
Llama 2 70B	70B	2x RTX 4090 (48GB VRAM) + 64GB RAM

Quindi già ci vuole anche per il basic una impostazione non da pochissimo conto

Ma questi sono le impostazioni minime per avere un semplice starter kit che ti dice hello world 

Se lo vuoi addestrare, servono minimo 2 rtx 4090

Comunque a mio modesto parere non conviene per niente, almeno che non hai un 5k da buttare per sfizio

[babo]

Questo secondo me merita un thread a parte. É giá molto frequente trovare lavoratori senior che sostengono l'efficacia dell'IA unita all'esperienza nel settore per correggere svarioni anche grossi nelle risposte.

In pratica l'IA da sola, su temi critici, non consente di efficientare "a nastro" perché serve un occhio umano di revisione. Rimangono i costi energetici molto alti uniti a un output non proprio chiaro. Reiterando, Bitcoin é trasparente by design, io posso esattamente sapere che tot energia elettrica (se sono io il miner, o comunque stimare in maniera precisa le altre farm) é andata a creare il tale blocco. Una farm IA, in un unitá di tempo equivalente (1h ad esempio) esattamente cosa fa? Dove concentra le energie per giustificare i consumi? Ad es. esiste un momento in cui la farm puó rimanere in idle perché ha giá scandagliato google da cima a fondo?

la AI non pensa
se gli proponi un problema, tipo la torre di hanoi.. LA RISOLVE MALE
se tu sei esperiente e sai che esiste un algoritmo, ti basta dirglielo e lei lo fa

diciamo che e' un junior altuo servizio che va a guardare google o stackoverflow

[arulbero]

Salve a tutti amici, visto che nel thread Meta di fillippone se ne è parlato ho deciso di aprire questo argomento in questa sezione della nostra board. Non so se in offtopic si addice di più o magari era meglio in guide, in tal caso chiedo al moderatore della board di spostare questo thread.

.....

Invito: se hai già sperimentato con l’IA, condividi i tuoi prompt, risultati e consigli!
Adesso la parola passa a voi, fate domande e postate pure qualche esempio di utilizzo, oppure se volete possiamo approfondire un argomento in particolare

Esempio di utilizzo dell'AI qui sul forum:  https://bitcointalk.org/index.php?topic=5569346.msg66209217#msg66209217