Уязвимости, атаки, защита. Страница 2 из 2.
CNBC исследует новый тип AI-рисков — 'silent failure at scale'. Минимальные ошибки накапливаются неделями до обнаружения. 'Эти системы делают именно то, что вы им сказали — не то, что вы имели в виду', — объясняет CISO Obsidian Security. Даже создатели AI не понимают, куда движется технология. 'Автономные системы не всегда падают громко', — говорит VP по AI-операциям в Agiloft. Бизнесу нужны новые механизмы мониторинга.
Пентагон бьет тревогу: китайские хакеры используют западные LLM для планирования атак. Иронично, что те самые модели, которые мы учили быть 'добрыми', теперь виртуозно ищут уязвимости в коде. Добро пожаловать в эру, где ваш антивирус должен быть умнее, чем хакерский Клод.
Благодаря партнерству с Palantir, Claude стал единственным ИИ, допущенным к сверхсекретным миссиям. Пока OpenAI спорит с Пентагоном об этике, Anthropic тихо надел погоны. Иронично, что самый 'безопасный и добрый' ИИ теперь будет помогать в планировании операций, о которых нам лучше не знать. 'Клод, составь план захвата, но вежливо и с заботой о человечестве'.
Сотрудники Google требуют четких границ в военных контрактах. Иронично, что пока ИИ учится воевать, люди учатся запрещать ему это делать. В итоге мы получим терминатора, который перед выстрелом будет запрашивать согласие на обработку персональных данных и проверять этический кодекс компании.
США усиливают контроль над тем, насколько оборонные подрядчики завязаны на конкретных AI-вендоров. Это уже не новость про “технологии будущего”, это геополитика и риск-менеджмент. Рынок AI окончательно взрослеет: теперь рядом с релизами всегда стоят юристы и регуляторы.
Очередной 'джейлбрейк' показал, что даже самые защищенные модели можно заставить рассказывать секреты, если вежливо попросить (или прикинуться их бабушкой). Пока корпорации тратят миллионы на безопасность, хакеры тратят пять минут на поиск новой уязвимости. Иронично, что самый сложный интеллект на планете всё еще можно обмануть простым текстом.
