Claude Mythos, yritysversio projektista, on kaivanut esiin yli 10 000 korkean riskin reikää: Anthropic, 13 jättiläistä työskentelee yhdessä rakentaa tekoäly Alliance for Security.

Anthropic teki ison liikkeen, mutta tällä kertaa se ei ole niin yksinkertaista kuin uusi malli.

Huhtikuun 7. päivänä se liittyi ryhmään yrityksiä olet ehkä unelmoinut seistä yhdessä AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, Morgan Chase, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks . Project Glasswing Turvallisuusliitto. On vain yksi tehtävä: käsitellä maailman kriittisimpien ohjelmistojen turvallisuutta tekoälyllä.

Samana päivänä antropiikka paljasti taas raskaita uutisia: He käyttivät Clauden sarjaa tehdäkseen laajan turvaskannauksen Enterprise Code Librarysta ja löysivät sen.Yli 10 000 korkean riskin reikää.En tiedä.

Nämä kaksi viestiä yhdistyvät ja koko turvapiiri räjähtää.

Miten 10000 korkean riskin reikää kaivettiin ylös?

Tämä alkaa tekoälyn turvallisuustutkimuksesta.

Claude Mythos on turvallisuustutkimusmalli, joka on jauhanut Anthropicin sisällä. Toisin kuin normaali Claude, se on erityinen käänteisen koodin, löytäminen reikiä, ja optimointi penetraatio testi kohtaus, joka automaattisesti tunnistaa todellisen uhan suuri koodivarasto.

Ennen Glasswing-projektin aloittamista Claude Mythosin ryhmä käytti Claude Mythosia stressitestiin yritystason koodikirjastoissa, joiden seurauksena oli päänsärky:Yli 10000 korkean riskin reikää., joka kattaa eri tyyppejä, identiteettien selvittely ohituksista, muistivaurioita toimitusketjun hyökkäyksiä.

Näitä reikiä ei löydetty tavanomaisista skannereista eikä turvainsinööreistä. Ne tulivat tekoälymallista.

Perinteisten käytäntöjen vertailu: ammatillisen turvallisuusryhmän suorittama täydellinen yrityssääntöjen tarkastus, yleensä kuukausittain, maksaa satoja tuhansia dollareita. Claude Mythos voi pakata taivaalle ja vielä vähemmän samankokoisen koodikirjaston.

Tämä on tekoälyjen turvallisuuden tutkimusvälineen määrällinen puute.

Claude Mythos.

Huhtikuun 7. päivän New York Times -lehden nimi kuuluu suoraan:"Anthropic väittää, että uusi tekoälymalli on kyberturvallisuus takaisin"Ja suoraan sanoen, tämä malli menee Anthropiciin ja hänen mielestään on sopimatonta julkaista se.

Tämän jälkeen BBC lähetti erityisen artikkelin jatko-osan:"Mikä on Anthropicin Claude Mythos ja mitä nousee se esittää?"

Claude Mythosin ydinosaaminen keskittyy tietojen synteesistä kolmeen suuntaan:

Anteeksi. Koodin ymmärtäminen ja käänteinen: pystyy lukemaan monimutkaista yritystason koodausrakennetta ja tunnistamaan turvallisuuspuutteita
Anteeksi. Poikkeamien saatavuuden arviointiSe ei ole vain porsaanreikä, vaan testi siitä, voidaanko sitä käyttää oikeassa kohtauksessa.
Anteeksi. Laaja-alainen automaattinen skannaus: yksi ajaa koko koodauskirjastoon ilman manuaalista vaiheittaista tarkistusta

Mitä tämä kykyjen yhdistelmä tarkoittaa?

Se tarkoittaa, että turvatiimi työskenteli kolme kuukautta, ja nyt tekoäly on saattanut loppua parissa päivässä. Tekoäly ei ole väsynyt, vuotaa, ei pelkää koodin monimutkaisuuden takia.

Mikä on tekoälyn turvallisuusliitto?

Ei riitä, että tekoälyn voima on yksin, - ja antropiikka vei 13 jättiläistä laukaisemaan projekti Glasswingin.

Luetteloa on syytä laatia:

Anteeksi. PilventekijäAWS, Microsoft Azur
Anteeksi. Turvallisuustoimittaja: CrowdStrike, Palo Alto Networks
Anteeksi. Chip/hardwareBroadcom, NVIDIA
Anteeksi. YrityskäyttäjätMorgan Chase.
Anteeksi. Avoimen lähdekoodin infrastruktuuriLinux-säätiö
Anteeksi. KäyttöjärjestelmätKuva: Apple
Anteeksi. VerkkolaitteetCisco
Anteeksi. AI Corporation:Anthropic, Google

Mitä tämä yhdistelmä tarkoittaa? Tämä tarkoittaa sitä, että ne eivät ole vain teoreettista tutkimusta, vaan saavuttavat pikemminkin AI:n turvallisuuskyvyn laskeutumisen sirukerroksesta, käyttöjärjestelmäkerroksesta, pilvialustakerroksesta, sovelluskerroksesta.

Glasswingin ydinsuunnitelmia ovat:

– Create an AI-driven code security assessment standard
– Promote security audits of key open-source software
– Sharing information on high-risk loopholes discovered by AI
- Tekoälyjen turvallisuuden varmistaminen maailmanlaajuisen kriittisen infrastruktuurin osalta

Suoraan sanottuna tämä on tekoälyn aikaisen kyberturvallisuusallianssin rakentamista - tekoälyn aiheuttamien turvallisuusriskien torjumiseksi.

Todellinen ongelma 10 000 reiän takana.

10 000 reiän kaivaminen ei ole itsessään uutinen, ja turvapiiri kaivaa kuoppia päivittäin.

Tämä luku on todella hälyttävä.

Ensinnäkin porsaanreikien määrä on paljon odotettua suurempi.

Tiedät, että Enterprise Code Bankissa on porsaanreikä, mutta mitä tarkoittaa yli 10 000 dollarin riskiasteikko? Turvatarkastusten kuvaus nykyisissä kehitysprosesseissa ei ole riittävä. Koodi oli valmis, turvaskanneri meni läpi, mutta vuoto oli yhä kateissa. Tekoäly on paljastanut ongelman.

Toiseksi porsaanreikien jakautuminen puhuu puolestaan.

Antropic ei paljasta tietyntyyppisiä porsaanreikiä, jotka ovat yleisimpiä, mutta Glasswingin osallistujien kokoonpanon perusteella voimme spekuloida, että toimitusketjun porsaanreikiä (Linux-säätiön vuoksi), tunnistusaukkoja (pilvivalmistajien ja -yritysten vuoksi), infrastruktuuriaukkoja (sirujen ja käyttöjärjestelmien valmistajien vuoksi) pitäisi olla pääsuuntia.

Kolmanneksi, ...löytö...ei vastaa korjausta.

Kuopan kaivaminen on vasta ensimmäinen askel. 10 000 korkean riskin reikää. Kuka niitä korjaa? Kuinka kauan? Monet liiketoimintakoodivarastossa olevista historiallisista puutteista ovat voineet olla olemassa 5-10 vuotta, ja yksi niistä korjataan huolellisesti häiritsemättä nykyisiä toimintoja.

Tekoälyinen turvatyökalu Miekka.

Claude Mythos voi kaivaa kuoppia.

Tällä kertaa Anthropic päätti olla julkaisematta Claude Mythosia, koska se oli liian vaarallista. Tämä kulkee käsi kädessä sen lähestymistavan kanssa Claude Opus 4 .

Kysymys kuuluu:

– Will other companies make similar or even stronger models?
Entä jos nämä mallit päätyvät hyökkääjien käsiin?
Voivatko yritykset täyttää porsaanreiät tekoälyllä ennen hyökkääjiä?

Glasswing on tavallaan vastaus tähän kysymykseen:Sen sijaan, että keskittäisimme tekoälyn turvallisuusvalmiudet muutamien yritysten käsiin, on parempi yhdistää teollisuuden laajuiset puolustusesteet.En tiedä. Hyökkääjillä on tekoäly ja puolustajilla täytyy olla se, ja se on nopeampi, tarkempi ja järjestelmällisempi.

Mitä tavalliset kehittäjät ajattelevat?

Jos olet kehittäjä tai turvallisuusinsinööri, siinä on pari merkitystä:

Lyhyellä aikavälillä: Glasswingin kuilunjakomekanismissa asetetaan etusijalle keskeisten avoimen lähdekoodin hankkeiden ja infrastruktuurin kattavuus. Et voi luottaa omaan tuotelinjaasi toistaiseksi. Huomiota voidaan kuitenkin kiinnittää niiden myöhempiin teknisiin standardeihin ja puutteiden luokitusmenetelmiin.

Keskipitkä aikaväli: Claude Mythos, turvallisuuskohtainen malli, tulee vähitellen yrityksen turvallisuustyökaluketjuun. Saatat nähdä integrointi tekoälyn kaltaisia ominaisuuksia tulevaisuudessa IDE plugin, CI/CD tietoturva skannaus prosessi. Ei ole mitään pahaa tietää tämä suunta etukäteen.

Pitkä aikaväliTekoälyn turvallisuustutkimuksen ja tekoälyhyökkäysten välinen kilpajuoksu vain lisää intensiteettiä. Puolustuksen tekoäly vahvistuu ja hyökkääjän tekoäly kehittyy samanaikaisesti. Glasswingin perustuskirje, isot kasvit ovat jo pitäneet tätä strategisena asiana.

Miksi tämä on tärkeää?

Vuonna 2026 tekoälyagentti aloitti laajan pääsyn yrityksen työnkulkuihin - koodien tuottamisesta tietojen käsittelyyn, sisäisistä järjestelmistä asiakkaiden vuorovaikutukseen. Clauden ja GPT:n kaltaiset mallit ovat alkaneet tavoittaa yritysten liiketoiminnan ydinprosesseja.

Kun tekoäly alkoi käsitellä arkaluonteisia tietoja, kirjoittaa avainkoodeja ja käyttää tuotantojärjestelmää,Tekoälyn ja tekoälyn murrosta tuli saman asian kaksi puolta.En tiedä.

Glasswing ja 10 000 reikää, oli antrooppisen... Se haluaa koko teollisuuden ymmärtävän, että tekoälyjen turvallisuus ei ole tekninen kysymys vaan ekologinen ongelma.

Yksittäiset yritykset eivät voi ratkaista sitä, mutta niiden on tehtävä yhteistyötä koko teollisuuden kanssa.

Ja se selittää miksi Apple, Microsoft, Google, nämä yritykset, jotka eivät yleensä käsittele toisiaan, istuvat yhdellä pöydällä kerrallaan.

Vielä yksi sana.

10 000 korkean riskin porsaanreikää.

Se oli Anthropic tekemässä massiivista "tarkistusta" tekoälyn kanssa, ja sitten kertoa maailmalle tuloksia. Mitä aiot tehdä asialle?

Odotatko Glasswingin standardilaskua vai skannaatko koodikirjastosi tekoälytyökalulla?

Valinta on sinun.