Naar inhoud

Kies je stijl: Denkbaar

Plan een gesprek

Artikelen

Geschiedenis

Llama 3.2: kijken en klein genoeg voor de telefoon

·

Meta brengt Llama 3.2 uit: modellen die beelden begrijpen, en kleine tekstmodellen voor telefoon en laptop.

Een werkende volwassene bekijkt een samenvatting op een telefoon.
Kleine Llama 3.2-modellen kunnen op het eigen apparaat werken. Illustratie: Denkbaar.

Op 25 september 2024 brengt Meta Llama 3.2 uit.

Wat er gebeurde

  • Er zijn twee modellen die beelden begrijpen: 11B en 90B.
  • Er zijn twee kleine tekstmodellen: 1B en 3B. Die passen op telefoons en andere kleine apparaten.
  • De kleine modellen hebben een context van 128.000 tokens. Meta noemt als taken: samenvatten, instructies volgen en tekst herschrijven, op het apparaat zelf.
  • Ze werken volgens Meta meteen op chips van Qualcomm en MediaTek, en zijn afgestemd op Arm-processors.
Een tablet toont een herkende doos en een telefoon toont tekstblokken.
De reeks bevat modellen voor beeld en kleine modellen voor tekst. Illustratie: Denkbaar.

Waarom het telde

Een taalmodel hoeft niet altijd in een datacenter te draaien. Voor eenvoudige taken kan het op het apparaat van de gebruiker.

Handen delen formulierkaarten in met hulp van een telefoon.
Voor een kleine vaste taak kan een lokaal model genoeg zijn. Illustratie: Denkbaar.

Wat je er nu mee doet

Kijk welke taak in je proces klein en vast is, zoals een tekst samenvatten of een formulier indelen. Daar kan een klein lokaal model genoeg zijn.

Achteraf geschreven op 12 november 2026, op basis van de bron hieronder.

Bronnen

  1. Meta: Llama 3.2: Revolutionizing edge AI and vision with open, customizable models

Onderwerpen: open-sourcemodelsmeta