Mistral
(AI - LLM)
commento
inserito: Settembre 2025
Mistral è un modello
linguistico open source, più o meno simile a
ChatGPT.
Tra i vari modelli disponibili,
Mistral riesce ad avere dei buoni risultati anche
nell’uso locale su PC. La versione Mistral 7B
(e sue varianti ) è compatibile con programmi come
LM Studio,
che permettono di usarlo in locale - senza necessità
di connessione Internet, né di inviare i propri dati
online.
Tempo fa è comparsa anche una
versione detta Mistral 14B (derivata o
miscelata da più modelli), che offre una maggiore
comprensione del contesto, pur richiedendo più RAM e
potenza di calcolo, mentre più di recente è uscita
la Mistral small 3.2, una versione veramente
notevole, dotata di capacità di ragionamento (ma non
velocissima, almeno rispetto alle precedenti; anzi,
direi decisamente più lenta. Il ragionamento
aumenta di varie volte il tempo complessivo per la
risposta).
Mistral supporta modelli in formato
GGUF, ottimizzati per CPU o GPU (a seconda della
versione) e funziona benissimo anche in modalità
chat offline, per scrittura testi, traduzioni,
riassunti e codici.
Non serve aggiungere che -come
sempre quando si parla di LLM (Modelli linguistici
di grandi dimensioni), una buona GPU con tanta VRAM
è fondamentale; nonostante questo, se avete una CPU
potente (e almeno 32 GB di RAM) è possibile fare
qualche tentativo anche con una vecchia GPU: la
generazione delle risposte sarà molto lenta, ma
funzionerà lo stesso.
Il link qui sotto è per la
velocissima versione dell'utente TheBloke di
HuggingFace; la versione 3.2 small, quella con
il ragionamento, si può scaricare
direttamente dall'interno di LM Studio..
download
GIUDIZIO: BUONO
+
|
