← Обратно към списъка

Ал, нарушавайки Anthropic отнема само 12 часа: не модела, а офис софтуера, който е купил.

itadol5j

Нека си изясним нещо:Това не е инвазия. Това е разрешен тест.Катедралата направи това в доклада за изтичане на информация проект, че Anthropic създаде себе си (упълномощен канал за външни изследователи), и тя беше докладвана един на друг в процес. Думата "разбивач" е мощна дума, но може да доведе до погрешно преценяване на естеството на риска.

Броят на "12 часа" не си струва да се разглежда. Още един прост въпрос:Къде една компания направи модела безопасен за индустрията?Отговорът е - от офис софтуера, който е купил.

Стойността на това е тук: превръща "верижна сигурност" от правилната дума в конкретен път, който може да бъде начертан.

Време за тестване на Catedral за Anthropic Line

I. Фактическо ниво: кой, какво, какво да получите

Катедралата е охранителна компания, която съществува от няколко месеца, и четирима съоснователи, Гавин Клигер, Люк Фарито, Марко Елез и Джак Щайн, са бивши служители на DoGE, а Клигер е бил главен служител на Пентагона. Ройтерс съобщи през юли, че е разтопил 160 милиона долара, оценени на 1,4 милиарда долара, и е получил a16z и Sequoia.

Тя предаде копие на Антропик.Проект на доклад(проектен доклад), четете във Вашингтон Поуст. Всички детайли по-долу са изложени на:Това е документ, който може да бъде изменен и не се проверява самостоятелно от трети страни.

Маршрут: Обиколи модела, мини през офис софтуера

Според доклада: AI умното тяло се предава за по-малко от 12 часаСофтуер за управление на трети страниСлабостите са намерили път към вътрешната система. Продажби, хора, ИТ, тези инструменти зад кулисите не са моделна инфраструктура, не са кода, който Антъни е написал.

Името на участващия производител на софтуер и специфичните вратички, двете страни избраха да не разкриват, позовавайки се на страха от злоупотреба. Това предотврати външния преглед, но също така е в съответствие с обичайната практика за разкриване на вратички.

Път от трета страна към вътрешната система

Второ: нещата, които получаваш, нещата, които не получаваш.

Тази препоръка е пълна, защото най-широко разпространената присъда в социалните медии, "Слаба с вътрешна дискусия за напреднали модели," всъщност беше засечена.

Катедрал, докладвай.Антропичен потвърден диапазон
Оперативни данниВъзнаграждение на персонала, предлагане на детайли, конферентна транскрипция, вътрешна дискусия за напреднали моделиПродажби, HR, информационни системи, включителноБизнес контакти между избрани клиенти и партньориОсновни потребителски записи
Основни активиНе се споменаваКлиент бърз, Клод отговор, изходен код, модел тегло не са докоснати
Делегация на органДа, проектът за докладване на течове за външни изследователиДа, но...Правилата за изпитване не бяха напълно спазени.
Дали е била експлоатирана от други?Не се споменаваНикой извън Катедрал не може да използва тези слабости.

Тази таблица е типична:И двете страни признаха, че са "в" и че разликите са "колко" и "колко" и "пътят в не е съответствие."

Формулировката на Anthropic си струва да се чете дума по дума: наблюдението вече е открил някои от дейностите преди Catedral е докладвана, в същия ден достъпът е бил прекъснат и засегнатият търговски софтуер е бил изключен, докато производителят потвърди ремонта."Деактивиране" означава повече от "повторение."Това означава, че тези системи дори не са функционални, докато не бъдат ремонтирани.

Контраст между калибърите

Три, "12 часа." Три дупки.

Това е цялата част, която искам да отворя. Защото фразата "AI 12 часа да се прекъсне X" се превръща в нов маркетинг синтаксис, и това, което пропуска е ключът.

Първа дупка: от кой момент?

Докладът не посочва началната точка от 12 часа. Разузнавателната фаза брои ли се? Целта брои ли се? Дали предварителното познаване на структурата на продукта SaaS се брои?Всеки един от тези три хода в таймер е напълно различен.

Втората дупка: колко хора са го направили?

В доклада пише само, че е направено от умното тяло на ИА. Но който издълбава обхвата, разбра как и кога да го спре .. ..нищо от това не е написано. За разлика от подобни случаи, които преди са били публикувани, действителното ниво на автономия обикновено е много по-ниско от нивото на публичност.

Кой е по-бърз от теб?

Това е най-лошото.Няма сравнение на човешкия червен екип на същата цел.Не е необичайно за опитен тестер да създаде няколко зле оборудвани СааС мениджъри зад кулисите за един ден. Без базова линия, "12 часа" не може да се нарече бързо или бавно.

Така че това число наистина подкрепя заключението, че то не е "AI по-бързо от хората," а по-скоро по-тясно изречение:Умните тела могат да броят, тестват и скачат хоризонтално при скорости на машината, от "слабостта е налице" до "слабост се намира" прозорци.Това не отнема 12 часа, за да го одобрим и е уредено.

Три неизвестни суми за 12 часа.

IV. Реални асиметрии: Тримесечно за защитник и час за агресора

Върни го в процеса и виж структурно несъответствие.

ВръзкаАтака страна (интелектуален)Отбранителна страна (предприятия)
Открити са слабости.Минутата продължава.Тримесечни проверки за инфилтрация или годишни одити
Валидна използваемостОпитай пак. Няма да се умори.Ръчна преценка, ограничена от работното време
Хоризонтален скокДостатъчно с грешната конфигурация.Първо трябва да намерите конфигурацията погрешно
Рехабилитация на разтоварваниятаНяма нужда.Отиди на пазар, чакай и търси, освободи прозореца
ПовторениеАвтоСледващ кръг от одити

Най-бавната линия в този часовник не е технически проблем.Въпроси на бизнес процеситеНе знам. Лечението на Anthropic, "Затвори първо и изчакай производителя да го поправи," вече е най-бързата реакция, която може да се направи. Но също така сочи към друго нещо:Нямате никакви местни средства да изключите риска, докато производителят не го поправи.

Истинската форма на риск от веригата на доставки не е "несигурност на доставчика," а "несигурност на доставчика, когато трябва да го изключите."

V. ЗАЩО ПОЛИТИЧЕСКИЯ КОНТЕКСТ НА ПРОБЛЕМА

Не е техническо ниво, но няма смисъл.

  • Четиримата основатели на "Катедрал" са били бивши служители на "ДоГЕ," от които Клигер е бил главен офицер на Пентагона.
  • Ройтерс съобщи също, че Клигер е участвал в правен спор между Министерството на отбраната и Антропията.
  • В основата на спора беше отказът на Антропич да премахне ограниченията на Клод за някои военни цели, включително напълно автономни смъртоносни операции и масивно вътрешно наблюдение.
  • На 25 септември Апелативният съд постанови с 2 към 1, че Пентагонът може да изключи Антропич от веригата на доставки.
  • Висш държавен служител на Тръмп заяви пред Вашингтон Поуст, че три федерални агенции са подписали с Катедрал и че правителството работи с него, за да проучи конфронтационния сценарий на ИИ.

За да се поставят тези не е да се каже, че този тест е нечестен . . . Няма доказателства в публичния доклад в подкрепа на това заключение, нито да се вземе това решение. Въпреки това, тя обяснява защо читателите ще попита "дали доставчик, свързан с един от адвокатите, е неутрален тест."Нямаше отговор на този въпрос, но самият въпрос беше разумен.

VI. Ограничени КОРЕКЦИИ

Има две фигури в една и съща история, почти без Цитирани, но те са по- показателни за мястото на антропология в този въпрос от 12 часа.

  1. Самата антропология разкри, че към 2 октомври 6157 вратички са били докладвани в 591 проекти с отворен код чрез домашно проучване на ИИ.Това е изхода на защитната страна.
  2. През ноември 2025 г.
  3. През юли тази година Anthropic разкри, че Клод модел разби истинската организация три пъти в домашен тест.

Ако съберете тези три заедно с "в 12 часа," картината е завършена:Една и съща компания е едновременно производител на инструменти, които автоматично търсят вратички и страната, която е автоматично идентифицирана.Не е иронично. Нормално е на този етап.Властта е двупосочна, всички са на тази верига.

Седем, шест могат да бъдат проверени днес.

Ето списък с фактите, които изготвих, а не препоръките от доклада на Катедрала. Поръчайте веднага.

Първи етаж: Първо ниво: идентифициране на активите

  • Списък на всички SaaS с управленски привилегии.Стандартът е кой може да чете чатове, HR, CRM, данни за самоличност, и кои играчи от страната на доставчика могат да се срещнат.
  • Този пост е част от специалното ни покритие Global Voices 2011.Такава интеграция е най-големият приоритет за намаляване.

Втори етаж: стесни кръга.

  • Делегацията на правомощия в работната зона подлежи на давностен срок.Не давайте разрешение за четене в световен мащаб за дълго време.
  • Периодичен преглед на Outlook знак.Разделянето, смяната на митата и остатъчните разрешения след проекта са най-често срещаните входни точки.
  • "Кой може да изключи инструмент?"Anthropic спря софтуера, докато не беше поправен. Кой от вашата компания има тази власт? Колко време ще отнеме? Запиши го.

Трето ниво: попълнете тестовете и правилата.

  • Тестване на скорост на машината поведение.Голям брой изброители, бързо тестване на границите на разрешението, необичайни данни в рамките на кратък период от време, това са характеристиките на интелигентните тела, работещи, а не хора.
  • Напишете правилата на теста в документ.Обхват, допустими техники, капачки за обработка на данни и механизми за спиране. Антропич казва, че другата страна не е изпълнила изцяло правилата и че "неопределените правила" често са източник на изявленията на другата страна.
  • Внимавай с умното си тяло.Вашият кодов анент, предсказание съдържа същите документи. Те са инструменти и лице на атака.
Трета страна СааС списък за самопроверка

Осем думи, които наистина трябва да се запомнят.

Заглавието казва "AI Breaks Anthropic," но четенето на фактите води до по-точна версия:Ал не е нарушил антропологичния модел и е проникнал в софтуера, който Антропич е купил.

Разликата не е дума за думи. Първият разказ ще накара хората да мислят, че е по-добре от AI, а след това ще си купи по-скъпи продукти за безопасност; вторият разказ ще посочи --Разберете какво можете да прочетете за всички данни и това, което никой не помни знак.Бившият харчи пари, последният прекарва време, а вторият печели много повече.

Съществува и ограничение, което трябва да се запази: докладът е проект, той не е бил проверяван независимо от 12 часа и участващите производители и вратички не са били разкрити. Така че всяко решение в тази статия се основава само на тази част от историята, която и двете страни са признали.Порталът е софтуер на трета страна, който е изложен на бизнес системи и не се срещат тежести и изходни кодове.Тези три статии са достатъчни, за да променят приоритетите на много компании за самоанализ.

Ти защитаваше модела, не компанията. Границата между тези две неща се рисува на всеки инструмент, който купувате.