← Tillbaka till listan

Ali är en bra spelare. Sätt den stora modellen på telefonen. Det finns alltid en för dig.

itadol5j

Just idag lanserade Ali en ny lättviktig liten modell i Qwen3.5-serien, med parametrar på 0.8B, 2B, 4B och 9B-versioner. Det handlar om att sätta AI-ström direkt i din telefon och dator!

Qwen3.5 liten modell

Åldern för små modeller.

Vi brukade prata om den stora AI-modellen, och den första reaktionen var "burn cards" - det fanns inga 3090, 4090 kort och de flyttade inte. Men den här gången undergrävde Alis Qwen3.5-serie helt den uppfattningen.

Vad är begreppet 0,8B? motsvarande 800 miljoner parametrar. På denna skala kan du även köra på någon smart hemutrustning. 2B är 2 miljarder, 4B är 4 miljarder och 9B är 9 miljarder. 9B-versionen är redan ganska kraftfull och nära nivån på några av de tidigare medium och stora modellerna.

Varför trycka små modeller?

Den stora modellen är stark, men det finns tre dödliga frågor:

  • Höga utplaceringskostnader: Tiotusentals GPU krävs för att träna en stor modell till en kostnad av hundratals miljoner dollar
  • Reaktion långsamt: en 70B-modell som bara laddar till synlighet tar sekunder
  • Kan inte distribuera lokalt: företag vill använda AI för privatiseringsutplacering? Det är omöjligt.

Små modeller har löst dessa problem perfekt. Du kan köra på din dator, du kan köra på din telefon, du kan även köra på en jordgubbspaj. Data laddas inte upp och är helt privata.

Utvecklare ecstasy

För utvecklarna är denna våg riktigt bra. Alis verksamhet motsvarar en AI-biljett till en global utvecklare.

Du brukade vilja vara en AI-app. Modellutplacering ensam kan bli av med en massa människor. Nu kan 0,8B-modeller köras av en dator, 2B, 4B kräver inte höga grafikkort och 9B-versioner av den vanliga spelboken kan bäras.

Vad betyder det? Detta innebär att tröskeln för AI-applikationsutveckling har sänkts ytterligare. Och sedan kan vanliga människor hjälpa sig med AI-hjälp, göra egna lokala smarta kläder, utan att titta på den stora fabriken.

Nationellt A.I.

Från Qwen2.5 till Qwen3.5 är Ali ett intressant drag. Innan dess rullade stora tillverkare stora modeller av hundratals miljarder parametrar, och Ali var nu tvärtom och började rulla små modeller.

Och bakom detta är en ny trend i AI: s utveckling: inte bara molnhjärnan, men den lokala hjärnan. I framtiden kommer din mobiltelefon, titta på, bil, du förmodligen har en lokal AI-modell, du har enkla problem, du kommer att ha komplicerade problem och du kommer att vara i molnen.

Frisläppandet av den lilla Ali-vågmodellen markerade ytterligare ett steg framåt i utbyggnaden av National Production AI-modellen.

Har du en bra titt på den lilla modellen? Välkommen till kommentarsfältet!