При тестване на най-новия модел на изкуствения интелект Mythos 5 на компанията Anthropic са показали безпрецедентни възможности за хакерски атаки, съобщава изданието The Economist. Зам.-шефът на сенатската комисия по разузнаване Марк Уорнър заявил, че Mythos 5 е успял да получи достъп до почти всички засекретени системи на Агенцията за национална сигурност на САЩ не за седмици, а само за няколко часа. Според него информацията е била представена пред сенаторите от директора на агенцията и ръководител на Киберкомандването на Пентагона Джошуа Радд.
Не става ясно какво ниво на достъп е получил моделът. Според информацията системата е показала способности, които биха отнели години работа на обикновени специалисти по киберсигурност, съобщава Mediapool. Anthropic представи Mythos 5 на 7 април 2026 г. Компанията заяви, че системата може да открива и използва „критични уязвимости“ в основни операционни системи, уеб браузъри и други софтуери. Според Forbes много от откритите от модела слабости са съществували десетилетия наред и не са били открити при многобройните проверки, извършвани от експерти по киберсигурност.
Моделът бе тестван по програмата Project Glasswing. По данни на Anthropic моделът е помогнал за откриването на над 10 000 слабости с висока и критична степен на риск. От ръководството на фирмата признават, че тези способности могат да превърнат системата в опасен инструмент за хакери и чуждестранни разузнавателни служби. Затова компанията е отказала публичното ѝ пускане и е предоставила достъп само на ограничен кръг партньори.
Паралелно с това Anthropic е разработила модела Fable 5 – първата публично достъпна версия на технология от класа Mythos. За разлика от Mythos 5, тя има вградени ограничения, които блокират заявки, свързани с киберсигурност, биология и химия. Според компанията Fable 5 превъзхожда предишните публични модели на Anthropic по програмиране, анализ на информация, работа с изображения, научни изследвания и изпълнение на сложни многоетапни задачи.
Новите възможности на AI пораждат безпокойство в администрацията на президента на САЩ Доналд Тръмп. През април вицето му Джей Ди Ванс проведе закрито съвещание с ръководителите на технологичните гиганти в сферата на AI – OpenAI, Anthropic, Google, Microsoft и SpaceX. На срещата били обсъдени нови модели на изкуствен интелект, способни самостоятелно да откриват програмни уязвимости и да правят мащабни кибератаки, които биха могли да парализират работата на банки, болници и обекти от комуналната инфраструктура.
На 2 юни Тръмп подписа указ за създаване на доброволна система за взаимодействие между държавата и водещите компании в сферата на AI, според която разработчиците трябва да предоставят на правителството достъп до новите модели преди публичното им пускане. На 12 юни американските власти предприемат още по-строги мерки. Правителството поискало от Anthropic да спре достъпа до моделите Mythos 5 и Fable 5 за чуждестранни граждани, включително за чуждестранни служители на самата компания. От Anthropic са заявили, че ще изпълнят решението в интерес на националната сигурност и ще спазват изискванията за експортен контрол. Ограниченията са засегнали дори най-близките съюзници на Вашингтон в разузнавателния алианс Five Eyes – Австралия, Великобритания, Канада и Нова Зеландия.
Anthropic е американска компания за разработка на системи за изкуствен интелект, основана през 2021 г. от бивши служители на OpenAI. Централата на компанията е в в Сан Франциско. Основателите ѝ напускат OpenAI поради разногласия, свързани с безопасността на изкуствения интелект и стратегията за развитие. Според текста оценката на Anthropic достига към 965 млрд. долара, което я прави един от най-скъпите проекти в областта на изкуствения интелект в света.
В началото на март президентът Тръмп вкара изкуственият интелект на Anthropic в „черния списък“ на Белия дом, като обяви компанията за заплаха за националната сигурност. В петък Тръмп подписа изпълнителна заповед, с която нареди на всички федерални агенции незабавно да прекратят използването на моделите на Anthropic. От хода последва отказ на компанията да предостави на армията това неограничено използване на технологията ѝ за всякакви законни цели.
Въпреки това, докато мастилото по заповедта още не беше изсъхнало, самолети на военно въздушните сили на САЩ вече са били насочени към цели в Иран. Според източници, запознати със случая, системи на Централното командване на САЩ са използвали Claude за разузнавателни оценки, идентифициране на цели и тестване на бойни сценарии в реално време. Спорът между администрацията на Тръмп и Anthropic, смятана за една от трите водещи AI компании в света наред с OpenAI и Google, надхвърля бизнес съображенията. Anthropic популяризира концепцията за „Конституционен AI“, като вгражда демократични и етични принципи в своите модели. По време на преговори за голям договор с Пентагона се твърди, че компанията е отказала да позволи системите ѝ да бъдат използвани за взимане на напълно автономни решения без човешка намеса или за масово наблюдение. Представители на администрацията възприели тази позиция като предизвикателство.
През май Пентагонът пък сключи споразумение със седем водещи компании в областта на изкуствения интелект за внедряване на техните най-съвременните им технологии в мрежите с класифициран достъп на министерството на отбраната, съобщи Ройтерс.
„SpaceX, OpenAI, Google, NVIDIA, Reflection, Microsoft и Amazon Web Services ще бъдат интегрирани в мрежи на Пентагона, за да „оптимизират синтеза на данни, повишат разбирането на ситуацията и подпомогнат вземането на решения от бойците в сложна оперативна обстановка“, съобщиха от US военното министерство.
Вашият коментар