AI su Desktop

Installare programmi di Intelligenza Artficiale sul pc


Informazioni utili per il computer: spiegazioni e trucchi per il nostro pc

Intelligenza Artificiale sul proprio PC: si può fare?

scheda inserita: Luglio 2025


Negli ultimi anni l’intelligenza artificiale (che chiamerò indifferentemente AI o IA, scegliendo per semplicità di non usare il termine, ben più corretto, di Modelli Linguistici di grandi dimensioni, o LLM) è entrata in molti campi della nostra vita digitale: dalle ricerche online alla raccolta di informazioni, dalla traduzione alla scrittura (e riscrittura!) di testi.
Tutti questi servizi, però, richiedono una connessione ad Internet e utilizzano server remoti: in pratica, ogni volta che chiediamo qualcosa ad un’IA, il nostro computer si collega a un sistema esterno, che elabora la richiesta e restituisce il risultato.

Questo rappresenta un costo per chi ci fornisce il servizio (che comprensibilmente, dopo un certo utilizzo gratuito, ci chiederà di pagare) e per di più crea problemi con la (nostra) privacy (diamo in giro informazioni più o meno riservate).

Ma è possibile installare un programma di intelligenza artificiale direttamente sul proprio PC, senza dipendere da server esterni, senza inviare dati personali su Internet e – magari – senza costi?

La risposta, sorprendentemente, è sì.

La potenza (e la qualità delle risposte) non sarà pari a quella dei servizi online (in certi campi non è proprio paragonabile), ma i risultati possono essere comunque buoni.

L'IA sul desktop sta diventando possibile

Fino a poco tempo fa, usare modelli di intelligenza artificiale in locale era impensabile per un normale PC: servivano risorse enormi, come quelle di un centro dati. Oggi, invece, esistono modelli ottimizzati che funzionano anche su computer di fascia medio-alta, sfruttando la GPU (la scheda video) o, in alcuni casi, anche solo la CPU.

Esistono già software gratuiti e open source che permettono, ad esempio:

di usare chatbot avanzati simili a ChatGPT (con le dovute proporzioni!) direttamente sul proprio PC;
di generare immagini da testo, senza collegarsi a siti esterni (qui i risultati possono essere molto buoni);
di creare musica o codice con strumenti basati su modelli AI locali;
di trascrivere audio in testo, in modo veloce e alquanto preciso, senza inviare file a terzi (tanti anni fa avevo fatto una guida, anche video, per trascrivere un testo in automatico, e per anni era stata una delle guide più lette di Programmifree. Adesso sembra preistoria...);
di leggere un testo con voce naturale (e intendo voce veramente naturale);
usare modelli per il riconoscimento di immagini, l’analisi di documenti e altro ancora.

Vantaggi e svantaggi dell’IA installata in locale

Usare un programma di intelligenza artificiale offline, installato sul proprio sistema, ha numerosi vantaggi, così come evidenti limiti. Vediamo prima i vantaggi:

Gratuità: sono tutti programmi interamente gratuiti e open source (fatto l'investimento iniziale, che può anche essere abbastanza ridotto, o addirittura nullo, se già abbiamo un buon pc);
Privacy: nessun dato viene inviato online.
Controllo: si può scegliere quale modello usare, aggiornarlo o sostituirlo.
Nessuna dipendenza da server: non è indispensabile, una volta installato il tutto, una connessione o un abbonamento internet.

Esistono comunque alcuni svantaggi, che non sono comunque marginali e che vanno sempre tenuti presenti:

Velocità: con un pc domestico è inimmaginabile avere la velocità di un server che costa decine di volte tanto.
Qualità dei modelli: i modelli open source ottenibili online sono validi (in certi casi spettacolari), ma non pensate di avere ChatGPT gratis sul computer, altrimenti resterete delusi. Se alcuni modelli hanno un valore astronomico (e non sono in vendita) c'è una ragione.
Tempo: Linux non è Windows, se non lo avete mai provato, per installare i vari modelli in locale ci vorrà un po'; l'aiuto dei vari ChatGPT, Claude, DeepSeek, Gemini, ecc., può essere prezioso per guidarci.

Requisiti hardware e software

Software: L’ideale per usare l’AI in locale è avere un sistema Linux. Chi utilizza Windows può comunque ottenere buoni risultati, sia installando una distribuzione Linux su una chiavetta USB (o, meglio ancora, su un drive esterno USB), sia utilizzando alcuni modelli direttamente su Windows (alcune cose, come i chatbot ci sono, altre purtroppo sono solo per linux e in questo caso o ci rinunciate o dedicate un drive a linux).
Volendo, si possono fare anche alcune prove direttamente con Windows, per esempio con il software LM Studio, che funziona anche con Windows; in questo caso non si potranno fare cose troppo avanzate, ma si potranno comunque utilizzare in locale dei modelli basati sul ragionamento, come Mistral o DeepSeek.

Hardware: Pur essendo possibile usare la sola CPU, se utilizziamo questa i tempi di risposta possono aumentare anche di 60 volte rispetto a un sistema con scheda video.
Per ottenere prestazioni concrete, è altamente consigliata una GPU NVIDIA con almeno 12 GB di VRAM: anche una RTX 3060 può andare bene. La memoria video (VRAM) è essenziale perché i modelli vengono caricati direttamente lì: senza sufficiente VRAM, l’esecuzione è impossibile o troppo lenta per essere pratica (può essere comunque sufficiente per fare un po' di prove).

Per esempio con Chroma (un modello per creare immagini dai risultati impressionanti, di cui parlerò tra qualche settimana), per generare la stessa immagine (1024x1024) ci vogliono quasi 2 ore se abbiamo solo la CPU e circa 2 minuti con la GPU (GTX 3060 12 GB VRAM, ancora meno con GPU più avanzate). E' chiaro che la differenza è enorme...

Conclusione

Installare programmi di intelligenza artificiale sul proprio computer sta diventando sempre più semplice.
Quello che una volta richiedeva competenze tecniche specifiche, oggi è possibile farlo con strumenti che riducono (e non di poco) le difficoltà di installazione e utilizzo.

Esistono già diverse soluzioni che permettono installazioni semplificate, riducendo le difficoltà tecniche che scoraggiano chi voglia provare questi strumenti (basta avere tempo e hardware adeguato).

Su Programmi è presente la nuova sezione AI Desktop in cui sono presenti varie soluzioni interessanti, e, soprattutto, interamente gratuite.

© Copyright 2001-2025 Programmifree.com - Tutti i diritti riservati.
E' vietata la copia anche parziale senza il consenso scritto dell'autore