Naar inhoud

Kies je stijl: Denkbaar

Plan een gesprek

Artikelen

Geschiedenis

xAI geeft Grok-1 vrij als open gewichten

·

xAI publiceerde de gewichten van Grok-1, een model met 314 miljard parameters, onder de Apache 2.0-licentie. Groot, maar zonder training voor gesprekken.

Een medewerker met een laptop bekijkt een grote kast met rekenkaarten en een paars modelblok.
Grok-1 is open, maar vraagt veel GPU-geheugen. Illustratie: Denkbaar.

Wat er gebeurde

Op 17 maart 2024 publiceerde xAI de gewichten en de opbouw van Grok-1. Gewichten zijn de getallen die een model zijn kennis geven. Wie ze heeft, kan het model zelf draaien. Grok-1 heeft 314 miljard parameters en is een “mixture of experts”: per woord werkt maar een deel van het model, ongeveer 25 procent. xAI gaf het vrij onder Apache 2.0, een licentie die ook zakelijk gebruik toestaat.

Het ging om het ruwe basismodel uit oktober 2023. Het was dus niet getraind om gesprekken te voeren of opdrachten te volgen. De voorbeeldcode op GitHub zegt zelf dat je een machine met veel GPU-geheugen nodig hebt, en dat de code niet snel is.

Een grote modelkast bevat veel blokken waarvan slechts een klein deel paars is.
Bij Grok-1 werkt per woord maar een deel van het model. Illustratie: Denkbaar.

Waarom het toen telde

In 2024 groeide het aantal grote modellen met open gewichten snel. Grok-1 was een van de grootste. Het liet zien dat ook bedrijven met een gesloten chatdienst hun oudere modellen vrijgeven.

Een medewerker vergelijkt een licentieboekje, een rekenkaart en een laptop met opdrachtvakken.
Controleer licentie, hardware en instructietraining voordat je een open model kiest. Illustratie: Denkbaar.

Wat het nu betekent

Open gewichten zijn niet hetzelfde als bruikbaar. Een basismodel zonder instructietraining en met deze omvang is voor een MKB-bedrijf niet zinvol om zelf te draaien. Kijk bij een open model eerst naar drie dingen: de licentie, de omvang (past het op betaalbare hardware?) en of het getraind is om opdrachten te volgen.

Bronnen

  1. Open Release of Grok-1 (xAI)
  2. xai-org/grok-1 (GitHub)

Onderwerpen: open-gewichtenxaimodellen