Nutanix ha presentato GPT-in-a-Box, una soluzione pensata per le imprese che vogliono accedere alla potenza degli LLM mantenendo il controllo dei dati aziendali.
La soluzione è una piattaforma software-defined che offre servizi per la configurazione dell'infrastruttura hardware e software dedicata all'implementazione di modelli LLM e all'esecuzione di trasformatori generativi pre-addestrati (GPT), sia in ambienti edge che on-premise.
GPT-in-a-Box si presenta come uno stack pronto all'uso per i sviluppare nuovi progetti di IA senza perdere il controllo sui dati, garantendo completa privacy ai propri clienti.
La soluzione comprende Nutanix Cloud Platform che fornisce servizi di elaborazione, storage, database e rete virtuale; tra questi ci sono Nutanix Files Storage e Objects Storage, l'hypervisor Nutanix AHV e Kubernetes. Cloud Platform si basa sull'accelerazione delle GPU NVIDIA per scalare velocemente i nodi dell'infrastruttura.
GPT-in-a-Box offre ai clienti Nutanix anche una vasta scelta di framework open-source di deep learning e di modelli linguistici quali Llama2, Falcon e MPT, oltre a un server di inferenza.
Data scientist e amministratori possono utilizzare immediatamente i modelli e i servizi a disposizione, scegliendo se utilizzare un'interfaccia utente avanzata o comandi CLI standard.
Oltre a quelli già in dotazione, la piattaforma può essere usata anche per eseguire altri modelli GPT sfruttando il valore dei dati aziendali. La possibilità di gestire le informazioni in sicurezza rende GPT-in-a-Box la soluzione migliore per casi d'uso che non possono essere eseguiti nel cloud pubblico, a causa di questioni di sovranità e privacy dei dati.
"Aiutare i clienti ad affrontare le più grandi sfide dell'IT è il focus delle nostre attività, dalla gestione della crescente complessità del multicloud alle sfide della protezione dei dati, fino all'adozione di soluzioni di intelligenza artificiale generativa, mantenendo il controllo sulla privacy e sulla conformità dei dati" ha affermato Thomas Cornely, SVP, Product Management di Nutanix.
Con GPT-in-a-Box la compagnia mira a facilitare l'adozione dell'IA nelle aziende e ridurre la curva di apprendimento per l'uso dei modelli linguistici.
La soluzione è già disponibile per tutti i clienti Nutanix.
