← Tilbage til listen

Ali er en god spiller. Sæt den store model på telefonen. Der er altid en til dig.

itadol5j

Lige i dag, Ali lanceret en ny letvægts lille model i Qwen3.5 serien, med parametre på 0,8B, 2B, 4B og 9B versioner. Dette handler om at sætte AI magt direkte ind i din telefon og computer!

Qwen3.5 lille model

Små modellers alder.

Vi plejede at tale om den store AI model, og den første reaktion var "brænde kort" -- der var ingen 3090, 4090 kort, og de flyttede sig ikke. Men denne gang, har Alis Qwen3.5 lille modelserie fuldstændig undergraveret denne opfattelse.

Hvad er begrebet 0,8B? Det svarer til 800 millioner parametre. På denne skala, kan du endda køre på nogle smart hjem udstyr. 2B er 2 milliarder, 4B er 4 milliarder og 9B er 9 milliarder. 9B versionen er allerede ret kraftfuld og tæt på niveauet af nogle af de tidligere mellemstore og store modeller.

Hvorfor skubbe små modeller?

Den store model er stærk, men der er tre fatale spørgsmål:

  • Høje implementeringsomkostninger: Titusinder af GPU 'er er forpligtet til at træne en stor model til en pris af hundreder af millioner dollars
  • Reaktion langsom: en 70B model, der bare belastninger til synlighed tager sekunder
  • Kan ikke implementere lokalt: virksomheder ønsker at bruge AI til privatisering implementering? Det er umuligt.

Små modeller har løst disse problemer perfekt. Du kan løbe på din computer, du kan løbe på din telefon, du kan endda løbe på en jordbærtærte. Data uploades ikke og er fuldt private.

Udvikler ecstasy

For udviklerne, denne bølge er virkelig god. Alis operation svarer til en AI-billet til en global udvikler.

Du plejede at ville være en AI-app. Model deployering alene kan slippe af med en masse mennesker. Nu, 0.8B modeller kan køre af en computer, 2B, 4B kræver ikke høje grafiske kort, og 9B versioner af den almindelige spilbog kan bæres.

Hvad betyder det? Dette betyder, at tærsklen for AI applikationsudvikling er blevet yderligere sænket. Og så almindelige mennesker kan hjælpe sig selv med AI hjælp, gøre deres egne lokale smart tøj, uden at se på den store fabrik.

Nationalt A.I.

Fra Qwen2.5 til Qwen3.5 er Ali et interessant træk. Før det, var store producenter rullende store modeller af hundredvis af milliarder af parametre, og Ali var nu på den anden side, begynder at rulle små modeller.

Og bag dette er en ny tendens i AI 's udvikling: ikke kun skyen hjerne, men den lokale hjerne. I fremtiden, din mobiltelefon, ur, bil, vil du sandsynligvis have en lokal AI model, du vil have enkle problemer, du vil have komplicerede problemer, og du vil være i skyerne.

Frigivelsen af Ali bølge lille model markerede endnu et skridt fremad i indførelsen af National Production AI model.

Så du den lille model? Velkommen til kommentarsektionen!