Geschiedenis
Phi-3: Microsoft laat zien dat klein ook kan
Microsoft bracht Phi-3-mini uit, een open taalmodel van 3,8 miljard parameters dat op een laptop draait en tot 128.000 tokens tekst aankan.

Wat er gebeurde
Op 23 april 2024 kondigde Microsoft Phi-3 aan, een familie van open, kleine taalmodellen. Het eerste model was Phi-3-mini, met 3,8 miljard parameters. Het was meteen te krijgen via Azure, Hugging Face en Ollama. Ollama is een programma om modellen op je eigen computer te draaien. Phi-3-mini kwam in twee versies: één voor 4.000 en één voor 128.000 tokens context. Context is de hoeveelheid tekst die het model in één keer kan lezen. Grotere broers, Phi-3-small (7B) en Phi-3-medium (14B), volgden later.
Microsoft zei dat de modellen beter scoren dan modellen van dezelfde omvang en die een maat groter zijn, op tests voor taal, redeneren, code en rekenen.

Waarom het toen telde
De meeste aandacht ging naar steeds grotere modellen. Phi-3 liet zien dat een klein model met goed gekozen trainingsdata veel kan. Het draait op een laptop, en volgens Microsoft zelfs op mobiele hardware.

Wat het nu betekent
Een klein model is geschikt voor vaste, eenvoudige taken: tekst indelen, gegevens uit een formulier halen, een korte samenvatting. Het werkt zonder internet en de data verlaat je computer niet. Voor moeilijke vragen of lange redeneringen is een groot model nog steeds beter. Test daarom altijd op je eigen voorbeelden voordat je kiest.