"Piccoli ma potenti": così Microsoft ha presentato i modelli linguistici della nuova famiglia Phi-3, pensati per bilanciare costi e performance senza ricorrere a miliardi o addirittura a trilioni di parametri.
"I modelli linguistici di grandi dimensioni hanno creato nuove, emozionanti opportunità per essere più produttivi e creativi usando l'IA. Ma la loro dimensione implica che richiedono risorse computazionali significative per lavorare" spiega Microsoft.
Per questo la compagnia ha deciso di lavorare a una nuova serie di modelli di piccole e medie dimensioni in grado di offrire gran parte delle stesse capacità degli LLM ma con risorse computazionali ridotte e con meno dati di addestramento.
L'obiettivo di Microsoft è permette ai propri clienti di scegliere quale modello utilizzare in base all'attività da svolgere, senza dover essere legati a un modello di grandi dimensioni che richiede enormi quantità di risorse per essere eseguito.
"Alcuni clienti potrebbero aver bisogno solo di piccoli modelli, altri di grandi modelli e molti altri vorrebbero integrarli in diversi modi" ha spiegato Luis Vargas, vice presidente del comparto IA in Microsoft.
Phi-3 mira ad abbattere le barriere associate ai costi e all'efficienza: compiti che normalmente verrebbero affidati a modelli più grandi potranno essere gestiti da una soluzione con minore "ingombro", senza rinunciare alle performance.
La famiglia di modelli utilizza dati sintetici di alta qualità per l'addestramento; ciò ha permesso a Microsoft di aggiungere un ulteriore livello di sicurezza alla sua offerta e ridurre i problemi più comuni legati all'uso di un linguaggio dannoso, spesso mostrato dai modelli addestrati con dati provenienti dal web.
Il primo modello di Phi-3 è ora disponibile su Azure. Hugging Face e Ollama: si chiama Phi-3-mini e ha solo 3.8 miliardi di parametri, ma Microsoft promette performance migliori dei modelli grossi il doppio.
Le dimensioni ridotte del modello consentiranno agli utenti di eseguirlo sul dispositivo di loro scelta senza la necessità di una connessione a Internet o di un accesso al cloud, ampliando così l'accesso all'IA anche in luoghi dove non ci sono le infrastruttura necessarie per usare gli LLM.
Nei prossimi mesi saranno disponibili anche Phi-3-small, da 7 miliardi di parametri, e Phi-3-medium, da 14 miliardi di parametri.
