Ali on hyvä pelaaja. Laita iso malli puhelimeen. Sinulle on aina yksi.
Juuri tänään Ali lanseerasi Qwen3.5-sarjassa uuden kevyen pienmallin, jonka parametrit ovat 0,8B, 2B, 4B ja 9B. Tässä on kyse tekoälyn virran sijoittamisesta suoraan puhelimeen ja tietokoneeseen!
Pienmallien ikä.
Puhuimme isosta tekoälymallista, ja ensimmäinen reaktio oli "palaneet kortit" -- ei ollut 3090, 4090 korttia, eivätkä he liikkuneet. Mutta tällä kertaa Alin Qwen3,5-mallisarja mullisti täysin tuon käsityksen.
Mikä on 0,8B:n käsite? Vastaa 800 miljoonaa muuttujaa. Tässä mittakaavassa voit jopa käyttää älykkäitä kodin laitteita. 2B on 2 miljardia, 4B on 4 miljardia ja 9B on 9 miljardia. 9B-versio on jo melko tehokas ja lähellä joidenkin aikaisempien keskisuurten ja suurten mallien tasoa.
Miksi työntää pieniä malleja?
Suuri malli on vahva, mutta on kolme kohtalokasta kysymystä:
- Korkeat käyttöönottokustannukset: Kymmeniä tuhansia GPU:ita vaaditaan kouluttamaan suuri malli, joka maksaa satoja miljoonia dollareita
- Reaktio hidas: 70B malli, joka vain kuormittaa näkyvyys kestää sekuntia
- Ei voi ottaa käyttöön paikallisesti: yritykset haluavat käyttää tekoälyä yksityistämiseen? Se on mahdotonta.
Pienet mallit ovat ratkaisseet nämä ongelmat täydellisesti. Voit juosta tietokoneellasi, puhelimella ja mansikkapiirakalla. Tietoja ei ladata ja ne ovat täysin yksityisiä.
Kehittäjän ekstaasi
Kehittäjille tämä aalto on todella hyvä. Alin toiminta vastaa tekoälylippua globaalille kehittäjälle.
Ennen halusit olla tekoälysovellus. Yksin mallilla pääsee eroon ihmisistä. Nyt, 0.8B malleja voi ajaa tietokoneen, 2B, 4B ei vaadi korkeita näytönohjaimia, ja 9B versioita tavallinen pelikirja voidaan kuljettaa.
Mitä se tarkoittaa? Tämä tarkoittaa sitä, että tekoälyn soveltamisen kynnystä on alennettu entisestään. Ja sitten tavalliset ihmiset voivat auttaa itseään tekoälyn avulla, tehdä omat paikalliset älyvaatteet, katsomatta suurta tehdasta.
Kansallinen tekoäly.
Qwen2,5:sta Qwen3.5:een Ali on mielenkiintoinen liike. Sitä ennen suuret valmistajat pyörittivät suuria malleja satoja miljardeja parametreja, ja Ali oli nyt päinvastoin, alkoi rullata pieniä malleja.
Ja tämän takana on uusi trendi tekoälyn kehityksessä: ei vain pilvi-aivot, vaan paikalliset aivot. Tulevaisuudessa, kännykkäsi, kellosi, autosi, sinulla on luultavasti paikallinen tekoälymalli, sinulla on yksinkertaisia ongelmia, sinulla on monimutkaisia ongelmia ja olet pilvissä.
Ali-aallon pienmallin vapauttaminen merkitsi uutta askelta eteenpäin kansallisen tuotantomallin käyttöönotossa.
Katsoitko pienoismallia? Tervetuloa kommenttiosastolle!