Openai GPT OSS è
un LLM (modello linguistico di
grnadi dimensioni) open source che
si può installare su nostro computer
creato da OpenAI (gli stessi di
ChatGPT).
E' presente in due versioni,
gpt-oss-120b, fuori dalla portata degli utenti
tradizionali (richiederebbe una scheda vdeo di un
costo a quattro zeri, richiedendo circa 80 GB tra
RAM e VRAM), più o meno equivalente a ChatGPT
o4-mini e un modello più contenuto, gpt-oss-20b, che
richiede circa 16 GB di memoria, equivalente a
ChatGPT o3-mini.
Entrambi i modelli possono essere
installati sul nostro computer (come detto, deve
essere un computer con hardware adeguato) e
utilizzati gratuitamente e senza limitazioni.
Volendo, per semplificare sia
l'installazione che l'utilizzo, possono essere
utilizzati tramite
LM Studio,
e addirittura scaricati da lì (questo fa sì che non
ci siano difficoltà di installazione).
La finestra di dialogo è
modificabile; in caso avessimo bisogno di risposte
più lunghe, possiamo aumentare il numero di tokens
utilizzati per la risposta (attenzione, perché in
questo caso la velocità di reazione diminuisce, e di
parecchio).
Nel complesso il modello gpt-oss-20b
funziona molto bene, non solo su Linux, ma anche su
Windows (funziona anche utilizzando solo la CPU;
forzando l'utilizzo del la GPU la velocità delle
risposte va più che a raddoppiare, se avete una
scheda video adeguata).
La differenza di velocità di
utilizzo sullo stesso pc con Windows o Linux mi è
sembrata intorno al 5% (a favore di linux), tutto
sommato accettabile.
Al momento lo considero il miglior
LLM (modello linguistico di grandi dimensioni)
utilizzabile gratuitamente.
Maggiori info
per il download, suggerisco
LM Studio
GIUDIZIO: BUONO ++
OpenAI GPT-OSS
