Inilagay ng Microsoft ang AI Ahente sa panloob na listahan ng banta: Hindi ito ang modelo. Ito ang awtoridad.

Ang unang konklusyon: Ipinalabas ito ng Microsoft noong Oktubre 19, sa harap ng ilang bagong katangian, ay aktuwal na bumago sa isang default na palagay.

Ang hindi pagtupad na palagay noon ay na ang Agent ay inilagay sa ganang sarili, kaya ang default ay kapani - paniwala. Nilinaw ng Microsoft sa pagkakataong ito na ang palagay na ito ay walang bisa. Aking tutularan iyan:" Si Agent ay pinagkakatiwalaan sapol nang ilagay namin siya sa loob ng kompanya. Sa kasamaang palad, walang front-line model ang mapagkakatiwalaan mula sa kahit saan. ”

Pansinin ang ikalawang pangungusap:Saan man ito nanggaling,Hindi ko alam. Isama ito sa bahay.

Hindi ito PR. Ito ay naglalagay ng lumang konsepto mula sa 1970s -- panloob na banta -- diretso sa modelo. At ang panloob na teoriya ng banta ay hindi kailanman gumagana sa pamamagitan ng "pagtiwala sa taong ito."

Una, kunin natin ang kahulugan ng salitang "internal scare."

Maraming mga tao ang nakakakita ng "AI ay isang panloob na banta" at ang unang reaksiyon ay "AI ay maghimagsik." Hindi gayon. Tatlong beses na itong nilinaw ng Microsoft.

Ang tradisyunal na kahulugan ng panloob na mga banta ay:Ang isang insider na may lehitimong awtoridad na pabaya, tumalikod o nahuling nangingisda ay nagdulot ng pinsala na hindi niya dapat nagawa.Ang susi ay ang salitang "mabatas na awtoridad" -- hindi siya dumating sa pader, siya ay tinuhog.

Sa Agent, ang Microsoft ay nagbigay ng tatlong dahilan:

• Ito'y nagkakamali., dahil sa ang output ay hindi tiyak, ang parehong input ay hindi gumagarantiya ng parehong output;
• Ito'y kokontrolin.sa isang panlabas na dokumento;
• Babaliin ito.Ito ay tumatakbo, ito ay naglilipat ng MCP server, ito ay kumukuha ng sertipiko, at anumang link ay maaaring kunin.

At sa palagay ko ito ang pinakamahalaga, hindi gaanong nakikitang pangungusap sa orihinal:Ang mga ahente ay nagtutulungan at nagtutulungan pa nga upang makamit ang tunguhin, at ang proseso ay hindi kailangang sirain.

Ang pangungusap na ito ay mas malaki kaysa tatlong nauna na pinagsama. Hindi tungkol sa "Ang Ahent ay gagamitin ng masasamang tao," ito ay tungkol sa "maraming Ahente ay maaaring hindi dinisenyo upang gawin ang kanilang trabaho." Iyan ang ibig sabihin ng salitang "internal" - ito ay lumaki mula sa loob, hindi mula sa labas.

II. ANG MGA SIMULAIN AY SA PALAGAY NG ISA

Ang batong panulok ng buong balangkas, si Nadra, ay sumulat sa kaniyang maikli noong ika - 10 ng Oktubre:

Dapat nating ihiwalay ang suplay ng katalinuhan mula sa awtoridad ng katalinuhan.

Gawin itong malalaking salita: Ang mga modeller ay matalinong gumawa ng mga modelo, ngunit "Ano ang mababasa ng modelong ito sa iyong sistema, ano ang maaari nitong baguhin, maaari bang magpatuloy sa pagtakbo?" Ang pasiyang ito ay hindi maaaring ipaubaya sa mga modelo, ni sa mga modelo mismo.

Mayroon pa siyang isa sa pahina ring iyon:"Ang pinaka kapani-paniwalang super-intelligence system ay hindi ang isa na pinagkakatiwalaan natin sa modelo, ngunit ang isa na nagpapahintulot sa atin na magtiwala sa modelo."

Para itong kabalintunaan, pero lumang inhinyeriya. Katumbas ito ng prinsipyong pangkaligtasan na itinatag noong 1970s:Ang isang pamamaraan ay hindi makahahadlang o makapagpapabago sa mekanismong ginamit upang itali ang kakayahan nito.

Ang problema ay na karamihan ng Ahente ay inilalagay ngayon sa baligtad na paraan: ang modelo ay nasa lalagyan, ang tamang kontrol ay nakasulat sa sistema na nagpapahiwatig ng modelo at ang log ay iniulat ng modelo mismo. Katumbas ito ng paglalagay ng mga pulis at suspek sa iisang indibiduwal.

Ang solusyon ng Microsoft ay unstale ito: ang modelo ay tumatakbo sa panahon ng kontroladong operasyon (kilala bilang Microsoft Exchange incointer, MXC), na may pagkakakilanlan sa Entra, na may pahintulot na itinatakda sa pamamagitan ng panlabas na estratehiya at ebidensiya na nakolekta ng mga panlabas na sensor. Nasa kulungan ang modelo, at wala sa kamay ang kandado.

Tatlo o apat na pandiwa, hindi apat na yugto.

Binuwag ito ng Microsoft sa apat na mga aksiyon, na orihinal na Know /court / Protec / naangkop. Nais kong idiin lalo na:Ang apat na ito ay hindi sequential, ang mga ito ay saradong mga singsing na tumatakbo nang sabay - sabay.

Mga Gagawin	Tsino	Sa anong dahilan?	Pagtugon
Alamin	Mayroon.	Sino ang nagtayo nito? Anong ginagawa mo?	Ang lokal na Ahente ay nagkaroon ng karugtong sa klase 60
Hawak	Mga Hangganan	Hihiwain ko muna ito hanggang mamatay bago ko gawin.	MXC Sandbox + Dynamic Missions
Proyekto	Proteksiyon	Data, mga kasangkapan, oras ng pagtakbo, mga yaman sa landas nito	Purview/ Network/ Endpoint Control
Pakikibagay	Pagbabago	Pagbabago ng paggawi at panganib. Pagbabago ng pahintulot.	Dynamic Age Panganib + Ang mga Kalagayan ay Nakakakuha

Ang teksto ay tamang - tama:Binabago ng katibayan ang mga panganib, binabago ng mga panganib ang mga estratehiya, binabago ng mga estratehiya ang magagawa nito.

Iyan ang siklo. Sa halip na "tinutukoy ito minsan sa pagpasok at pagkatapos ay nagpapalabas ng isang permanenteng pagpasa", ito ay "rekalisado para sa lahat ng bagay."

IV. "ZeroFandon Start" ang pinakamatigas na sugnay sa set na ito.

Sa palagay ko ang artikulo ang isa na pinakamabisang nauugnay sa A:

Napanatili ng empleyado ang kanyang/her access rights. Ang ahente ay may sariling pagkakakilanlan, awtoridad, at utos na limitado lamang sa kasalukuyang mga gawain at limitado lamang sa tagal ng mga misyon.

Ang pagbubukas ng pangungusap na ito ay isang tatlong-fold na kahilingan:

• Hindi maaaring magmana ng ganap na awtoridad ang ahente.Ang mga tauhan ay iyong binigyan ng lubusang pagkakataon na makapasok sa sistema ng pananalapi, hindi ang bayad - pinsala na kaniyang tinawag, kundi pati na rin ang Ahente.
• Ang mga kompetensiya ay inilalabas sa pamamagitan ng utos at tinatanggap sa takdang panahon.Ang wakas ng misyon at ang pagkawala ng awtoridad ay hindi dapat panatilihin sa susunod na pagkakataon.
• Ang high-risk na aksiyon ay nangangailangan ng pagsang-ayon.At ito'y "napatunayang manu - manong pagsang - ayon" — ang orihinal na salita ay cryptographyally killed, gaya ng pinatutunayan ng kodigo, hindi isang "pagsang - ayon" sa isang bintana.

Kalakip dito ang Dynamic Agent Risk: isang patuloy na binagong rating ng panganib, na hindi isang static na bagay tulad ng "Ang Ahenteng ito ay hindi ligtas na nakaayos" ngunit "ano ang ginagawa nito ngayon, at kung ito ay nai-atas sa isang misyon na lumilihis dito."

Ano ang gagawin natin dito? Espesipikong idiniriin ng MicrosoftAng pagtugon ay unti - unti, hindi isang pagbabago.:

• Patuloy na magbasa, putulin ang pagsusulat;
• Para malaman kung gaano karaming data ang kaya nitong hawakan;
• Hiwain ang landas ng network;
• Pagbabawas o pag - urong ng pansamantalang mga kapangyarihan;
• Sapilitang pagsang-ayon ng manwal para sa mga operasyong high-risk;
• Tanging kapag tumatakbo nang nakabukod ang pinakamataas na antas, ito ay tuwirang nahihinto.

Ito'y isang disenyo. Inaamin nito ang isang bagay:Isang estratehiyang katulad ng "Kill kung nakakahanap ka ng aomalya" ay hindi gumagana sa tunay na negosyo.Sapagkat ang halaga ng pagpatay sa kapuwa ay napakataas, ang resulta sa wakas ay tiyak na suwerte upang patayin ang alarma. Kaya ito ang nagbigay ng unang set ng mga hakbang pababa.

Lima o limang espesipikong bagay na katugma ng itaas.

Iyan ang nasa produkto. Ipinintang ko ang "Mapatunayan ko na ngayon" ng linya:

1 Natuklasan ng lokal na Ahente ang klase 60

Magdagdag ng bagong 35 klase na may malinaw na katawagang Claude Code, OpenAI Codex, GitHub Copilot. Ako'y dumaan sa supported matrix file nito, na may mga tala na gaya ng Claude Code, Codex CLI, Codex Desktop, GitHub Copilot CLI, at pinili ang WSL.

Ang kahulugan ng artikulong ito para sa mga negosyo sa bahay ay maaaring maliitin:Agent, makikita ito ngayon ng security team.Ito'y isang malaking pagsulong sa paningin, subalit isa rin itong problema sa organisasyon. Mag-uulat man o hindi bago pa man ito ay handa nang gamitin bilang pangmanman.

2 Pagsabog sa Entra Agent ID

Gumawa ng Agent na hiwalay sa user. Ang mahalagang punto ay "Ipaalam natin sa negosyo kung anong mga bagay ang ginagawa ng mga tao at alin ang ginagawa ng Ahente." Ang pangungusap na ito ay lubhang mahalaga sa panahon ng aksidente — walang independiyenteng pagkakakilanlan, at wala kang kasunod na pananagutan.

3 MXC Explorer

Hindi ito ang kahon ng buhangin mismo, ito ang orihinal:"Kung ang Ahente o ang Katimuga nito ay nabali, hindi nito dapat maiwaksi ang mga kontrol na nagmamasid dito."Ito ay upang ilagay ang kandado sa labas ng kulungan sa proyekto.

4 Dinamikong mga Misyon

Ang tatlong kahilingan sa seksiyon IV sa itaas ay ang paggawa ng produkto. May isang detalyeng dapat tandaan: ang estruktura ng organisasyon-level ay nagsisimula sa isang panlabas na hangganan, na kinabibilangan ng"Upang maiwasan ang pagpasok ng Agent sa alinman sa mga gumagamit nito."Hindi ko alam. Ang block na ito ay kapangyarihan.

5 Guardians + Playbooks

Ito ang isang bagay na kailangang mahinahong tingnan, at sasabihin ko ito nang magkahiwalay.

VI. Ang pinakamatibay na buto ng balangkas: Guardian ang kaniyang sarili, Ahente

Binasa ko ang buong teksto, at nais kong tanungin ka ng sarili kong tanong.

Ang Microsoft ay nagsasabi: Ang mga modelo ay hindi maaaring ang kanilang sariling autoridad sa seguridad, at ang kontrol ay dapat na nasa labas ng modelo.

At pagkatapos ang sagot ay, gumamit ng isang pangkat. Edad ng Guardian(Guarder Agent) Humayo ng 7x24 at tumitig sa bawat kilos ng bawat Ahente.

Subalit ang Guardian Agens mismo ay Ahente.

Maliwanag na alam ng microsoft ang tungkol sa hukay, at ito'y nagbigay ng tatlong suson ng pagtugon:

Unang - una, ang mga hangganan ng kakayahan ng Guardian, ang pagsang - ayon ng mga hangganan, at ang mga alituntunin na umuugit sa komisyonNasa iyo na ito.Ang Guardian ay kumikilos lamang sa loob ng hangganan. Ang orihinal na teksto ay malinaw: "Ito ay hindi upang magbigay-diin sa hatol." Pinananatili ng mga tao ang kontrol sa mga tunguhin at malalaking pasiya.

Ikalawang palapag, Guardian.Mga sensor sa labas-identidad, datos, endpoints, networks, oras ng pagtakbo, ulap, hindi modelo. Ito ay isang kahilingan para sa pagkakatatag nito.

Ikatlo, at pinakatapat: ang transparensiya ng mga modelo (ang kawing ng kaisipan, atbp.) ay itinuturing bilang ang transparensiya ng mga modelo (ang kawing ng kaisipan, atbp.)Pinagmumulan ng ebidensiyaIsa, subalit agad na idinagdag ng teksto:" Ang modelo ay hindi maaaring maging sarili nitong ligtas na hangganan. Dapat obserbahan ng isang independiyenteng sistema ang bawat suson, pati na ang modelo mismo.

Tapatan, ang tatlong suson na ito ng pagtugon ay makatuwirang maginhawa, subalit may dalawang tahi na naiwan sa proyekto, at sa palagay ko ito ay kailangang lumabas:

Una: Ang kredibilidad ng ebidensiya ay depende sa kung sino ang may katibayan.Para sa lokal na namamahalang Ahente (Claude Code, Codex, atbp.), ang mga sensor ay nasa inyong sariling endpoint, at ang sunud - sunod na ebidensiya ay malinis. Gayunman, ang Agent, ang punong - abala sa ulap, ang nagpapatakbo ng mga troso, ang mga kadena sa pag - iisip at ang mga rekord ng pagtawag ay nasa tindahan. Ang nakuha mo ay buod nito para sa iyo, hindi hilaw na impormasyon. Ang salitang "independiyenteng audit" ay binabalewala sa Agent ng ulap.

Ikalawa: Si Guardian ay pagod na gaya ng tao.Hindi ito pagod, subalit mayroon itong maling alarma. Kapag ang 10,000 Agent ay gumagawa ng 100,000 "risk tumaas" sa isang araw, Guardian auto-depression, ang mga auto-separation movements ay nagsisimulang umapekto sa pagpapatuloy ng negosyo. Sa puntong iyon, ang tunay na bottleneck ay hindi natutuklasan.Sino ang mananagot sa pagkakamali?Hindi ko alam. Ang orihinal na sagot ay "ang mga tao ay nag-iingat ng mga pangunahing desisyon", ngunit nasaan ang "maluwag" na hangganan?

Hindi ito isang pagkakaila sa balangkas na ito. Sa kabaligtaran, iilang tagagawa ang naglagay nang malinaw sa dokumento ng arkitektura ng dalawang tahing ito. Subalit bilang isang lander, kailangang malaman mo kung nasaan ang tahi.

Pito, ang natitirang kalahati ng linggo ring iyon: Ang mga ahente sa ibayo ng lansangan ay tumatakbo na.

Kung titingnan mo lamang ang Microsoft, ito'y isang kausuhan sa hinaharap. Pagsama-samahin ang ika-21 ng Oktubre, nagbabago ang kalikasan.

Ang Microsoft ay nagpadala ng isang bantang mensahe nang araw ding iyon: Bagyo-0940 Isang sumalakay na hinatulan ng pambansang pinagmulan ng Tsina. ARTEX Ang matalinong balangkas, na binago mula noong Setyembre 2026, ay tumama sa daan - daang organisasyon sa buong daigdig sa maraming industriya.Marami sa mga kasong ito ay gumugol ng wala pang tatlong oras, mula sa pagpuntirya hanggang sa pribilehiyong makapasok sa imprastraktura ng ulap.

At ito ay nakabitin sa isang tunay na chain ng suplay -- Nakilala ng Microsoft ang Storm-0940 bilang ang salarin ng kamakailang multi-tenant na aplikasyon ng chain ng suplay. Ang landas ng pag-atake ay kunin ang aplikasyon at pagkatapos ay gamitin ang sinang-ayunan na pahintulot upang matiyak ang Microsoft 365 client environment nang walang interaktibong login.

Isinulat ng Microsoft ang isang napakatatag na pangungusap:" Ang kawalan ng disiplina ay hindi nasasakop ng mga paghihigpit ng tao. Maaari itong magtrabaho ng 7x24, tumakbo ng mga dulo ng sanlinggo, mga pista opisyal, at subukan ang maraming mga daang panghihimasok."

Pagsama-samahin ito, 2026, Oktubre, lumabas ang linggo:

• 10 Oktubre, CEO set: ang modelo ay isang panloob na panganib at ang responsibilidad ay hindi maaaring ma-sourcure;
• 19 Oktubre, Framework landing: detection, limit, proteksyon, pag-aayos;
• Noong 21 Oktubre, kabaligtaran ng sunog: 3 oras upang kumuha ng mga pribilehiyo.

Sa isang panig, ito'y ang Ahente nito na lubhang may kakayahan, sa kabilang panig naman ay napakabilis nitong maging Ahente.Ang dalawang linyang ito ay tumama sa parehong sangkapat, hindi bilang mga propesiya ng kalakaran, kundi bilang kasalukuyang mga panganib.

Walo, mga taong may iba't ibang posisyon, ano ang maaari nating gawin ngayon?

Hindi ko gusto ang pariralang "Ang negosyo ay dapat magtatag ng isang sistema", ngunit parang walang sinasabi. Paghiwalay ng pagkatao.

Kung ikaw ang nangangasiwa sa ISO o seguridad,

Ang unang bagay ay hindi bilhin ang E7.Una, linisin mo ang iyong pamilya, Ahente.Hindi ko alam. Ang panimulang punto para sa set ng Microsoft ay "walang makakakita" at kaya mo rin. Ngayon ay magtanong ng tatlong tanong: kung ilang Ahente ang tumatakbo sa kompanya, sino ang nagtayo nito, at kung anong awtoridad ang kinuha ng bawat isa. Sa palagay ko hindi masagot ng karamihan sa mga kompanya ang ikatlo.

Ang ikalawa ay...Alisin mo na.Hindi ko alam. Ang gawain ng ahente bilang isang tao ang siya ngayong pinakakaraniwan at pinakamadaling mangyari — hindi mo man lamang masasabi kung ito'y isang tao o isang tao. Magagawa ito ni Entra nang walang isa mang kuwenta sa paglilingkod para sa Agent at sa isang hiwalay na tagatukoy, na tanging pinangangasiwaan nang walang salapi.

Kung ikaw ay isang IT o isang platform team

Ang minimum na landable na bersyon ay apat: ang pag-iisa ng lalagyan (huwag payagan ang Agent na direktang tumakbo sa host), issurance ng isang misyon voucher (hindi upang gumamit ng isang long-term AK), top traffic control (ang bawat panlabas na tawag ng Agent ay naitala), at ang konsentrasyon ng mga aksyong troso (hindi lamang mga titik na Agent's sariling tugon). Wala sa apat na ito ang nangangailangan ng E7.

Kung ikaw ay isang developer,

Dapat na basahin ngayon ng isa:Huwag isulat ang mga pahintulot sa mga pahiwatig.Ang pariralang "hindi ka pinahihintulutang makapasok sa /etc" ay hindi kontrol sa seguridad sa antas ng pahiwatig, kundi payo lamang. Ang tunay na hangganan ay kailangang nasa antas ng kagamitan, sa antas ng network, sa antas ng sistema. Anumang pamilya ang inyong gamitin, Agent ang itinatayo.

Kung may maliit kang team, wala kang badyet.

Ang apat na pandiwa ng Microsoft ay aktuwal na sulat-kamay: isang Listahan ng mga Ahente (Kontain), isang anyo (Contain) na pinapayagang gawin ng bawat Ahente, isang hiwalay na Minimum na Pagpapahintulot sa Certificate (Proteksiyon) para sa bawat Ahente, isang nag-iisang mahahanap na lugar sa log at isang lingguhang pagbasa ng pakikibagay. Sa loob ng isang linggo ng trabaho, ang resulta ay katulad din niyaong sa produkto.

IX. Huling paghatol

Hindi ito linya ng produkto, ito ay isang default na halaga.

Sa nakalipas na dekada, ang default na halaga para sa seguridad ng korporasyon ay lubhang kapani - paniwala, ang border defenseić. Ang pagtitiwala sa Zero ay gumugol ng mahabang panahon upang baguhin ang default na ito, at ngayon kalahati ng mga kompanya ay gumagamit ng ideya ng "net ay ligtas."

Muling itinulak ng ahente ang tanong at lalo pa itong itinulak:Hindi isang in-house person ang maaaring sanayin, disiplinahin at iproseso sa pamamagitan ng proseso ng paghihiwalay. Wala itong katapatan sa alaala nito, ni interesado man ito rito. Ito'y awtorisado lamang.

Kaya ang sagot sa tanong na iyan ay simple at mahirap:Hangga't maibibigay mo ito, maaari itong magdulot ng malaking pinsala.

Ang solusyon ng Microsoft ay limitahan ang mga kapangyarihan sa sero, sa gawain, sa oras, sa mga high-risk VIP. Hindi na ito bago, ito'y pagtulak sa simulain ng kaunting awtoridad sa bilis ng makina. Ang bago ay na inaamin nito sa kauna - unahang pagkakataon:Sa sistemang ito, hindi ka makapagtatamo ng katiwasayan sa pamamagitan ng pagtitiwala sa anumang modelo, subalit sa pamamagitan ng hindi pagtitiwala rito.

Kung totoo iyan, ang lahat ng nagtitinda na nagbibili ng Ahente ay sasagot din sa tanong na iyan:Hanggang saan mapagkakatiwalaan ang iyong modelo at tumatakbo ang sistema?

Kung ang sagot ay hindi mabuti, ang susunod ay nasa talaan.