Microsoft släpper liten AI-modell

Forskare på Microsoft har tagit fram en ny stor språkmodell (LLM) som man säger ska vara den minsta modellen man än så länge lyckats ta fram. Den nya modellen kallas för Phi-3 Mini och består av 3,8 miljarder parametrar, något som kan jämföras med till exempel OpenAI:s GPT-4-modell som har 1,76 biljoner parametrar. Enligt Microsoft ska Phi-3 Mini, trots sin kompakta storlek, kunna mäta sig med större modeller som till exempel Metas Llama 2. Man säger vidare att Phi-3 Mini nästan är lika kompetent som andra LLM:s som är tio gånger så stora. Tanken bakom kompakta LLM:s som Phi-3 Mini är att de är billigare att driva och även går att köra lokalt på laptops och mobiltelefoner. Phi-3 Mini finns tillgänglig nu via Azure samt AI-tjänsterna Hugging Face och Ollama. Microsoft planerar framöver att släppa Phi-3 i de lite större storlekarna "Small" och "Medium". Dessa kommer att ha 7 respektive 14 miljarder parametrar.