Qualcomm permette a Meta Llama 3 di funzionare su dispositivi dotati di Snapdragon

Qualcomm e Meta hanno annunciato una collaborazione per ottimizzare l'esecuzione dei modelli linguistici di grandi dimensioni (LLM) di Meta Llama 3 direttamente su smartphone, PC, cuffie VR/AR, veicoli e altro ancora. La possibilità di eseguire Llama 3 sui dispositivi offre vantaggi significativi, tra cui una maggiore reattività, una maggiore privacy, una maggiore affidabilità ed esperienze più personalizzate per gli utenti.

“Celebriamo l'approccio aperto di Meta con Meta Llama 3, e condividiamo il suo impegno per potenziare gli sviluppatori e stimolare l'innovazione dell'IA”, ha dichiarato Durga Malladi, Senior Vice President e General Manager of Technology, Planning and Edge Solutions, Qualcomm Technologies, Inc. “La nostra leadership nell'IA on-device, unita alla nostra vasta portata su diversi dispositivi edge, ci permette di espandere i vantaggi dell'ecosistema Llama in tutto il mondo e di consentire a clienti, partner e sviluppatori di creare una nuova generazione di esperienze di IA rivoluzionarie”.

La collaborazione mira a democratizzare l'accesso alle capacità di IA generativa consentendo agli OEM e agli sviluppatori di rendere accessibile Llama 3 sui dispositivi dotati delle prossime piattaforme di punta Snapdragon. L'utilizzo della potente architettura di computing eterogeneo di Qualcomm Technologies, che sfrutta senza soluzione di continuità CPU, GPU e NPU leader del settore, insieme a un'architettura di memoria all'avanguardia, consente a clienti, partner e sviluppatori di massimizzare le prestazioni delle applicazioni, l'efficienza termica e la durata della batteria.

Gli sviluppatori potranno accedere alle risorse e agli strumenti per eseguire Llama 3 in modo ottimale sulle piattaforme Snapdragon attraverso il Qualcomm AI Hub, che attualmente offre circa 100 modelli IA ottimizzati. Il Qualcomm AI Hub riduce il time-to-market per gli sviluppatori e sblocca i vantaggi dell'IA su dispositivo per le loro applicazioni. Per gli aggiornamenti, iscriviti alla nostra newsletter mensile per gli sviluppatori.