LOGIN
Milioni di utenti in tutto il mondo stanno subendo il fascino dei tool basati su intelligenza artificiale. Programmi come ChatGPT o DALL-E, capaci di realizzare risultati straordinari sulla base di un semplice input testuale.
Ebbene non molti sanno che è possibile installare un’IA in stile ChatGPT anche sul proprio PC Windows o sul proprio Mac. Ma anche su dispositivi che installano il sistema operativo open source Linux. Il nome da tenere a mente è Alpaca: un chatbot realizzato da nientemeno che i ricercatori dell’Università di Stanford.
La procedura per installare Alpaca su computer non è particolarmente complessa. Allo stesso modo i requisiti di sistema sono compatibili con i principali dispositivi di nuova generazione. Da questo punto di vista tra gli elementi da tenere maggiormente in considerazione è possibile citare:
- Un sistema che automatizzi il deployment di un’applicazione come Docker
- Un software per il controllo di versione come Git
- Un progetto comunitario che dia interfaccia ad Alpaca come Serge
Cos’è Alpaca e come funziona
Credits Shutterstock
Come già anticipato in precedenza Alpaca è un chatbot realizzato dai ricercatori di Stanford e perfezionato dal team LLaMa di Facebook. Più precisamente è un modello linguistico in grado di generare contenuti inediti dopo avere analizzato le richieste scritte dell’utente. In buona sostanza Alpaca offre servizi non troppo diversi da quelli di ChatGPT: risponde alle domande, effettua ricerche, inventa storie sulla base di input più o meno specifici.
Una grande differenza tra Alpaca e ChatGPT sta nel fatto che il primo può essere utilizzato in autonomia da un utente sul proprio dispositivo. Un aspetto che alza notevolmente l’asticella della sicurezza del servizio.
Con Alpaca infatti l’utente ha la certezza che nessuno raccolga informazioni sulle sue interazioni con il chatbot.
L’installazione di Alpaca su un PC Windows o un Mac Apple non prevede canoni mensili o abbonamenti di sorta. Inoltre l’utente ha la possibilità di addestrare il modello in base alle proprie personalissime esigenze.
Certo, ad oggi ChatGPT è sicuramente più veloce e più “intelligente” di Alpaca. L’esecuzione di GPT-4 garantisce al chatbot di OpenAI una capacità di interpretazione degli input e restituzione di risultati complessivamente superiore.
Va però considerato che soprattutto la rapidità di esecuzione di Alpaca dipende in larga parte dalle specifiche del dispositivo su cui viene eseguito. E anche in questo senso è importante sottolineare che ChatGPT, con ogni probabilità, gira su hardware e software molto più performanti di quelli dei classici computer commerciali.
Infine è utile ricordare che esistono diverse varianti di Alpaca, che garantiscono prestazioni più o meno efficaci. Il modello più basico di Alpaca è il 7B: ideale per chi sia alla ricerca di suggerimenti semplici, come ad esempio le ricette culinarie.
Alpaca 13B porta l’interazione a un livello superiore, con il chatbot capace di rispondere a domande complesse e di fornire conversazioni assolutamente credibili. Infine la variante 30B, ovvero l’intelligenza artificiale più impressionante di casa Alpaca: in questo caso la performance è molto simile a quella di ChatGPT.
Requisiti di sistema per installare Alpaca
Credits guteksk7 / Shutterstock.com
In linea generale i requisiti di sistema previsti da Alpaca sono piuttosto flessibili. Come detto può essere eseguito su sistemi operativi Windows, macOS e Linux. I requisiti variano in base alla variante Alpaca che si vuole eseguire.
Ad esempio la RAM parte dai 16 GB richiesti per la versione 7B ai 30 GB suggeriti nel caso in cui si voglia eseguire la versione 30B. Allo stesso modo varia lo spazio di archiviazione: in questo caso il consiglio è di dotarsi di un SSD con almeno 35 GB di spazio di archiviazione, in modo da poter testare tutti e tre i modelli. Nel dettaglio Alpaca 7B richiede almeno 4 GB di memoria libera. Alpaca 13B ne richiede almeno 8, mentre Alpaca 30B ne richiede almeno 20.
Dal punto di vista della CPU Alpaca è compatibile con la stragrande maggioranza dei computer più moderni.
Per fare un esempio concreto una qualsiasi CPU Ryzen è in grado di eseguire il chatbot. Il processore suggerito è invece un Intel per lo meno di settima generazione.
Come installare l’intelligenza artificiale Alpaca
.jpg)
Credits Shutterstock
La procedura di installazione di Alpaca varia leggermente in base al dispositivo e al sistema operativo in uso. Ad esempio Linux richiede l’installazione preliminare di un sottosistema Windows. Perciò in questa sede ci si limita a fornire alcuni passaggi fondamentali per un uso corretto del chatbot di intelligenza artificiale.
Un primo step necessario è il download di Docker: un particolare software simile a una macchina virtuale, che permette di eseguire altri programmi all’interno di un contenitore. Con il vantaggio di essere molto più performante e di correre meno rischi di sovraccarico.
Dopodiché è necessario scaricare un software per il controllo di versione come Git. Il suggerimento in questo caso è di effettuare il download direttamente dal sito ufficiale, prestando particolare attenzione alle opzioni di installazione. Anche in questo caso gli utenti potrebbero dovere spuntare voci differenti sulla base del sistema operativo o del dispositivo che stanno utilizzando.
Il terzo step necessario consiste nell’installare Serge, che può venire scaricato e poi aggiornato automaticamente attraverso Git e Github. Prima di procedere con l’installazione è fondamentale assicurarsi di avere in esecuzione Docker.
Docker si occupa di creare un pacchetto ordinato, in cui inserisce tutti i diversi contenitori necessari per l’esecuzione dell’intelligenza artificiale. Dopodiché Serge ha il compito di fornire l’interfaccia per Alpaca. In questa ultima fase l’utente dovrà eseguire i seguenti comandi:
- git clone https://github.com/nsarrazin/serge.git && cd serge
- cp .env.sample .env
- finestra mobile componi -d
Dopodiché potrà scegliere tra le varianti di Alpaca cui si accennava nei capoversi precedenti: 7B, 13B e 30B. Ciascuna variante richiede un comando specifico e prevede un tempo di download differente.
Per saperne di più: ChatGPT, cos'è, come funziona, a cosa serve, come usarla gratis
