Dell amplia la collaborazione con NVIDIA per accelerare l’adozione dell’IA generativa

Tutti vogliono adottare l’IA generativa, ma il passaggio non è banale. Non basta semplicemente acquistare una licenza di un software: è necessario mettere in piedi una strategia di adozione, comprendere rischi e opportunità di questa tecnologia, e avere in casa le competenze per integrare soluzioni di IA generativa all’interno della propria infrastruttura. 

I problemi principali indicati dalle imprese sono la scarsa accuratezza delle risposte fornite dall’IA, la gestione dell’enorme quantità di dati necessario per addestrare e far funzionare gli algoritmi e – soprattutto – la sicurezza, che a oggi rappresenta è la principale preoccupazione per le imprese. 

Date queste premesse, come si può pensare di accelerare l’adozione della GenAI? Una soluzione arriva da Dell, che insieme al partner NVIDIA ha messo in piedi una piattaforma end to end per introdurre l’IA nei processi lavorativi: Dell AI Factory with NVIDIA.

Arriva Dell AI Factory with NVIDIA, piattaforma end to end di IA generativa

Dell AI Factory with NVIDIA è una piattaforma che offre alle imprese tutto il necessario per introdurre l’IA generativa in azienda riducendo al minimo la complessità, dall’hardware al software. La soluzione, disponibile tramite Dell APEX, include i server Dell PowerEdge XE9680 equipaggiati con le più recenti GPU NVIDIA, fra cui NVIDIA B200 Tensor Core (raffreddate a liquido) e H200 Tensor Core. Secondo Dell, l’adozione di questi server dotati di GPU H200 garantisce prestazioni doppie e un TCO inferiore del 50% rispetto a server basati su GPU H100. In futuro verranno anche supportati i chip GB200 SuperChip, in grado di effettuare calcoli di inferenza in tempo reale su modelli con migliaia di miliardi di parametri e di abbattere il TCO fino al 40%, nel caso di calcoli particolarmente complessi. 

Dell AI Factory with NVIDIA supporta infine le piattaforme di networking NVIDIA Quantum-2 InfiniBand e Spectrum-X Ethernet, in grado di trasferire dati a velocità molto più elevate delle tradizionali rei ethernet. 

L’hardware, però, è solo una parte dell’offerta che, come anticipato, copre tutte le esigenze per lo sviluppo di modelli di IA personalizzati. A partire dalla preparazione dei dati per arrivare ai calcoli dell’inferenza (che genera le risposte fornite dall’IA), passando per l’addestramento dei modelli, la loro ottimizzazione e anche il RAG, Retrieval-Augmented Generation. Fa parte dell’offerta anche il Dell Data Lakehouse, un data lake per analizzare e processare in un unico punto i dati provenienti da sistemi multicloud. 

Risposte più affidabili con RAG

La piattaforma end to end di Dell realizzata in collaborazione con NVIDIA supporta anche  RAG, Retrieval-Augmented Generation, una tecnologia per ottimizzare gli output di un modello linguistico e fornire risposte più precise. Si tratta di un sistema che oltre a tenere conto dei dati di addestramento del modello, verifica le risposte facendo riferimento anche su basi di conoscenza esterne al modello stesso, e considerate molto affidabili. 

“I nostri clienti enterprise cercano un modo semplice per implementare soluzioni di intelligenza artificiale – ed è esattamente ciò che Dell Technologies e NVIDIA stanno offrendo,” ha dichiarato Michael Dell, fondatore e CEO di Dell Technologies”.

Fonte: http://feeds.hwupgrade.it/