Magaling na manlalaro ni Ali. Ilagay ang malaking modelo sa telepono. Laging may isa para sa iyo.

Sa ngayon, naglunsad si Ali ng isang bagong magaang na maliit na modelo sa seryeng Qwen3.5, na may mga parameter ng 0.8B, 2B, 4B at 9B na bersyon. Ito ay tungkol sa paglalagay ng AI power sa iyong telepono at computer!

Ang edad ng maliliit na modelo.

Dati naming pinag-uusapan ang tungkol sa malaking modelong AI, at ang unang reaksiyon ay "burn cards" - walang 3090, 4090 card, at hindi sila kumilos. Subalit sa pagkakataong ito, lubusang sinira ng Qwen3.5 maliliit na seryeng modelo ni Ali ang pagkaunawang iyan.

Ano ang konsepto ng 0.8B? Katumbas ng 800 milyong parameter. Sa ganitong paraan, maaari ka pa ngang tumakbo sa isang matalinong kagamitan sa bahay. 2B ay 2 bilyon, 4B ay 4 bilyon at 9B ay 9 bilyon. Ang 9B na bersyon ay malakas na at malapit sa antas ng ilan sa mga naunang medium at malalaking modelo.

Bakit itutulak ang maliliit na modelo?

Ang malaking modelo ay malakas, subalit may tatlong nakamamatay na katanungan:

• Mataas na halaga ng paggamit: Sampu - sampung libong GPU ang hinihiling upang sanayin ang isang malaking modelo sa halagang daan - daang milyong dolyar
• Ang reaksiyon ay mabagal: isang 70B modelo na ang basta mga pasan upang makita ay kumukuha ng mga segundo
• Hindi ba maaaring maglagay ng lokal: nais gamitin ng mga kompanya ang AI para sa paglalagay ng privatization? Imposible ito.

Lubusang nalutas ng maliliit na modelo ang mga problemang ito. Puwede kang tumakbo sa computer mo, kaya mo pa ngang tumakbo gamit ang strawberry pie. Ang mga impormasyon ay hindi naididiskarga at ganap na pribado.

Linangin ang Kaligayahan

Para sa mga developer, ang alon na ito ay talagang mabuti. Ang operasyon ni Ali ay katumbas ng tiket ng AI sa isang global developer.

Dating nais mong maging isang AI app. Ang paglalagay lamang ng modelo ay maaaring makapag - alis ng isang pangkat ng mga tao. Ngayon, ang 0.8B mga modelo ay maaaring patakbuhin ng isang kompyuter, 2B, 4B ay hindi nangangailangan ng mataas na graphic cards, at ang 9B bersyon ng ordinaryong game book ay maaaring dalhin.

Ano ang ibig sabihin niyan? Nangangahulugan ito na ang pagsisimula para sa AI application development ay higit pang ibinaba. At pagkatapos ang ordinaryong mga tao ay maaaring tumulong sa kanilang sarili sa tulong ng AI, gumawa ng kanilang sariling lokal na mamahaling mga damit, nang hindi tumitingin sa malaking pabrika.

Pambansang A.I.

Mula Qwen2.5 hanggang Qwen3.5, si Ali ay isang interesanteng paglipat. Bago nito, ang mga pangunahing tagagawa ay gumagawa ng malalaking modelo ng daan - daang bilyong parameter, at si Ali ngayon ay nasa kabaligtaran, nagsisimulang maggulong ng maliliit na modelo.

At sa likod nito ay isang bagong kausuhan sa pag - unlad ng AI: hindi lamang ang utak ng ulap, kundi ang lokal na utak. Sa hinaharap, ang iyong cellphone, relo, kotse, malamang na mayroon kang modelong AI sa inyong lugar, magkakaroon ka ng simpleng mga problema, magkakaroon ka ng masalimuot na mga problema at ikaw ay malalagay sa mga ulap.

Ang paglabas ng Ali wave maliit na modelo ay nagmarka ng isa pang hakbang pasulong sa paglalagay ng modelong National Production AI.

Sinuri mo bang mabuti ang maliit na modelo? Maligayang pagdating sa bahaging komento!