Sembra ieri che ho scritto dell'impatto di Llama 3.1, e ora ci troviamo di fronte a un'altra pietra miliare significativa nell'intelligenza artificiale con il rilascio di Llama 3.2 il 25 settembre 2024.
Introdução
Meta ha appena annunciato il lama 3.2, un'innovazione che promette di trasformare il panorama dell'intelligenza artificiale per l'edge e la visione. Questa nuova versione include modelli linguistici su larga scala (LLM) per la visione di piccole e medie dimensioni (11B e 90B) e modelli leggeri solo testo (1B e 3B), progettati per adattarsi a dispositivi mobili ed edge. Disponibili in versioni pre-addestrate e ottimizzate per le istruzioni, questi modelli offrono flessibilità e prestazioni eccezionali per un'ampia gamma di applicazioni.
Novità di Llama 3.2
Modelli ottimizzati per dispositivi mobili e Edge
I modelli lama 3.2 di 1B e 3B ora supportano una lunghezza del contesto fino a Token da 128, stabilendo un nuovo standard per le applicazioni dei dispositivi quali:
- Recupero e sintesi delle conoscenze multilingue
- Follow-up delle istruzioni
- Riscrivi le attività eseguite localmente
Ottimizzati per l'hardware dei processori Qualcomm, MediaTek e ARM, questi modelli consentono un'elaborazione efficiente senza la necessità di infrastrutture pesanti.
Progressi nella visione artificiale
I modelli di visione lama 3.2 I modelli 11B e 90B possono sostituire immediatamente le loro controparti testuali, superando persino i modelli closed-source come Claude 3 Haiku nelle attività di comprensione delle immagini. A differenza di altri modelli multimodali open-source, sia i modelli pre-addestrati che quelli allineati sono disponibili per la personalizzazione tramite melodia, oltre a poter essere testato con l'assistente Meta AI.
Llama Stack: semplificare lo sviluppo
Meta sta rilasciando le prime distribuzioni ufficiali di Pila di fiamme, che semplificano notevolmente il modo in cui gli sviluppatori lavorano con i modelli Llama in diversi ambienti:
- Singolo nodo
- Locale
- Na nuovo
- Sul dispositivo
Ciò consente l'implementazione chiavi in mano di applicazioni di generazione con aumento del recupero (RAG) e di strumenti di sicurezza integrati, accelerando i tempi di sviluppo e riducendo la complessità.
Partenariati strategici
In collaborazione con partner quali AWS, Databricks, Dell, Fireworks, Infosys e Insieme AIMeta sta espandendo la portata di Llama Stack ai clienti aziendali. La distribuzione ai dispositivi avviene tramite PyTorch ExecuTorch, mentre la distribuzione a nodo singolo è facilitata da Ollama.
Apertura che guida l'innovazione
Meta continua a condividere il suo lavoro perché crede che l'apertura guida l'innovazioneLlama 3.2 è all'avanguardia in termini di apertura, modificabilità ed efficienza dei costi, consentendo a più persone di realizzare innovazioni creative e trasformative utilizzando l'intelligenza artificiale generativa.
disponibilità
I modelli lama 3.2 è disponibile per scaricarlo lama.com e Abbracciare il viso, oltre ad essere accessibile per uno sviluppo immediato su un ampio ecosistema di piattaforme partner, tra cui:
- AMD
- Google cloud
- IBM
- Microsoft Azure
- NVIDIA
- Oracle Cloud
- E molti altri
Pensieri finali
Sembra ieri che ho parlato dell'impatto di Llama 3.1, e ora Llama 3.2 è qui per alzare ulteriormente l'asticella. La velocità con cui la tecnologia si evolve è davvero impressionante. Non vedo l'ora di vedere come questi progressi saranno applicati in diversi settori e come potranno influenzare positivamente i nostri progetti e le nostre soluzioni.
