Искусственный интеллект в кибербезопасности: между мощью технологий и искусством маркетинга

В мире искусственного интеллекта очередной прорыв часто сопровождается громкими заявлениями. Недавний анонс модели Claude Mythos от компании Anthropic — не исключение. Разработчик позиционирует её как инструмент для кибербезопасности, способный выявлять уязвимости в программном обеспечении. По словам Anthropic, модель обнажила тысячи недостатков в распространённых приложениях, для которых пока не существует исправлений. Это побудило стартап создать альянс с экспертами по кибербезопасности, получивший название Project Glasswing, чтобы усилить защиту от взломов и ограничить широкое распространение модели.

Реальная угроза или маркетинговый ход?

Anthropic называет Mythos «переломным моментом» для индустрии кибербезопасности, утверждая, что инструмент может помочь хакерам нарушить работу критически важного программного обеспечения по всему миру. Если технология окажется столь мощной, как заявлено, и станет общедоступной, последствия могут быть катастрофическими. Кибератаки уже давно перестали быть чисто цифровой проблемой: от них страдают аэропорты, больницы и транспортные сети. Однако сейчас для масштабных атак требуются серьёзные экспертные знания, а Mythos потенциально может сделать такие возможности доступными для любителей и усилить профессионалов.

Тем не менее, эксперты по кибербезопасности выражают сомнения в отношении некоторых утверждений Anthropic. Специалист в области наступательной кибербезопасности Джеймисон О’Рейли отмечает, что, хотя Mythos — это реальное достижение, заявления о тысячах «уязвимостей нулевого дня» в основных операционных системах не столь значимы для практической безопасности. Он подчёркивает, что San Francisco-стартап, широко воспринимаемый как «ответственная» компания в области ИИ, демонстрирует блестящие маркетинговые навыки.

Стратегия ограничения как инструмент желания

Anthropic не только разрабатывает мощные технологии, но и искусно управляет вниманием. Решение не выпускать Mythos в широкий доступ, сравнимое с показом артхаусного фильма только в Лос-Анджелесе и Нью-Йорке, само по себе является маркетинговым ходом. Как отмечается в источнике, ничто не разжигает более сильное желание, чем недоступность. На конференции HumanX AI в Сан-Франциско на прошлой неделе Anthropic была главной темой обсуждения, что лишь подогревает ажиотаж.

Эта тактика не нова для индустрии ИИ. В 2019 году OpenAI заявляла, что её алгоритм генерации текста GPT-2 слишком опасен для выпуска, а позже компания на месяцы ограничивала широкий доступ к генератору видео Sora. Интересно, что генеральный директор Anthropic Дарио Амодеи ранее занимал должность вице-президента по исследованиям в OpenAI. Опыт показывает, что опасения, связанные с простой генерацией текста, могут показаться незначительными на фоне потенциального краха цифровой безопасности, но общество постепенно адаптируется к новым технологическим реалиям.

Несмотря на скепсис, технология Claude от Anthropic признаётся эффективной. Бизнес-структуры высоко оценивают её возможности в области программирования, а такие серьёзные компании, как Apple, Nvidia, Google, JPMorganChase, Amazon Web Services и Broadcom, стали партнёрами Anthropic в рамках Project Glasswing. Это свидетельствует о практической ценности разработок стартапа, даже если некоторые заявления преувеличены.

Истерия вокруг генеративного ИИ сопровождает технологию с момента её появления, затмевая объективное понимание её возможностей и ограничений. Журналисты и эксперты пытаются развеять этот туман, проводя параллели с прошлыми «революционными» анонсами. Вероятно, и нынешние страхи относительно кибербезопасности со временем улягутся, уступив место более сбалансированной оценке, находящейся между текущим статус-кво и гиперболизированным будущим.