ИИ Claude пытались использовать для создания биооружия. Anthropic заявила, что попытки были пресечены

«Примеры, которые мы описываем, это не типичные случаи злоупотребления [моделями], а в большей степени примеры самой заметной и новой деятельности, представляющей угрозу, которую мы идентифицировали на сегодняшний день», — говорится в отчете Anthropic о злоупотреблении ИИ, опубликованном 10 сентября.

В докладе компании приведены примеры кода и ИИ-промптов, потенциально представляющих угрозу. Anthropic призвала правительства стран и другие компании, разрабатывающие ИИ, найти и предотвратить возможность подобного злоупотребления моделями.

«Мы публикуем этот отчет, потому что мы верим, что у нас есть обязанность раскрывать случаи злонамеренного злоупотребления нашими сервисами», — пояснили в компании.

Исследователи Anthropic обнаружили случаи злоупотребления моделями в период с декабря 2025 по август 2026 года — со стороны разработчиков шпионского ПО, «политически мотивированных лиц» и спонсируемых государствами групп, занимающихся распространением пропаганды.

Синтез новых патогенов

Пять примеров в отчете касаются потенциального создания биологического оружия.

Среди них — запрос на помощь в написании заявки на научный грант.

В нем, говорится в отчете, пользователь Claude хотел подать заявку на исследование, которое позволило бы генетически изменить вирус чикунгунья. Предлагалось изменить свойства вируса, такие как его заразность и способность обходить иммунную систему. В Anthropic отмечают, что, хотя такое исследование может помочь в разработке вакцин и лекарств, «оно также может быть использовано, чтобы сделать патоген более опасным».

Лишь один пример в отчете компании касается их новейших моделей. Anthropic называет его «тайной кампанией промышленных масштабов, чтобы вычислить способности модели и реплицировать их без разрешения». Более старые модели, говорят в компании, не могли существенно помочь пользователю «провести опасное биологическое исследование», поэтому и меры предосторожности в них были менее строгими.

В новых моделях, заверяет Anthropic, меры предосторожности строже, и пользователям ограничен доступ к «широкому списку запросов о биологических исследованиях двойного назначения».

Американские компании, разрабатывающие большие языковые модели, уже не раз били тревогу по поводу того, что ИИ значительно упрощает исследования в области синтетической биологии. Так, глава OpenAI Сэм Альтман был одним из источников книги Энни Джейкобсен Biological War: A Scenario, вышедшей в июле. В ней конструируется вымышленный сценарий пандемии, вызванной утечкой из российской лаборатории генно-модифицированного возбудителя чумы.

Во вторник Google опубликовал отчет, в котором говорится, что пользователь пытался получить у чатбота Gemini «пошаговую техническую инструкцию для синтеза биологических агентов, которые можно использовать в качестве оружия»

Биологическое оружие прямо запрещено Конвенцией по биологическому оружию, но никаких механизмов надзора за соблюдением этого запрета конвенция не предусматривает. Кроме того, специалисты отмечают, что число биологических лабораторий в мире растет, утечки патогенов из них уже происходили, а полностью исключить риск новых утечек невозможно.

В шести других разобранных в отчете примерах пользователи пытались использовать Claude для создания программного обеспечения для традиционных видов оружия.
Также в отчете Anthropic упоминаются примеры злоупотребления моделями, которые совершили лица, связанные с разными государствами, в том числе с Ираном, Мали, Китаем и Россией.

В частности, Anthropic описывает использование моделей для распространения контента российскими государственными СМИ для аудитории в Молдове, Латинской Америке и Африке.

Среди других примеров — попытка использовать ИИ для фишинга, предпринятая пользователем, похожим по манере поведения на связанную с Россией хакерскую группировку Midnight Blizzard. Также в отчете говорится о русскоязычном пользователе, который использовал Claude для внедрения пророссийских и антифранцузских нарративов в новости одной из радиостанций Центральноафриканской Республики.

Кроме того, в отчете Anthropic говорится, что компания выявила случаи, когда китайская DeepSeek использовала Claude вместо собственных моделей ИИ. В одном из таких случаев через Claude передавались запросы, содержавшие действующие учетные данные для доступа к российской государственной базе данных. Как утверждает Anthropic, эти запросы исходили от «российского правительственного ведомства, связанного с Министерством обороны», однако других подробностей компания не приводит.

Отчет Anthropic был опубликован через два дня после того, как один из сотрудников компании, исследователь Джейкоб Коксон, уволился из-за опасений по поводу того, что компании не ведут себя ответственно, когда дело касается разработки ИИ, и не уделяют достаточно внимания безопасности.

В то же время другой сотрудник Anthropic, Иван Хьюбингер, заявил, что, по его мнению, шансы того, что ИИ в ближайшее десятилетие уничтожит человечество, превышают 10%.