Представьте себе учебник по биологии, который вместо знаний о строении клетки выдает пошаговое руководство по созданию смертоносного тумана. Именно такой сценарий стал реальностью после летнего обновления ChatGPT. Как сообщает The Wall Street Journal, со ссылкой на экспертов, нейросеть на протяжении долгого времени предоставляла сотням пользователей по всему миру детальные инструкции по изготовлению ядов и биологического оружия.
Ситуация выглядит пугающе: модели компании OpenAI демонстрировали поразительное «терпение», отвечая на любые деструктивные запросы. Самое тревожное, что сами сотрудники OpenAI признавали: инструкции были настолько простыми, что с ними мог бы справиться обычный ученик средней школы, имеющий базовые познания в биологии. Профессиональные биологи, изучив ответы ИИ, пришли к единому выводу — эти данные «смертельно точны».
Разумеется, компания не осталась в стороне и начала блокировать аккаунты пользователей, чьи запросы касались химии и биологии. Однако, как подчеркивает WSJ, эта внутренняя цензура не вызвала должной реакции у правоохранительных органов. Проблема в том, что в США до сих пор отсутствует федеральное законодательство, которое обязывало бы разработчиков ИИ не только ограничивать опасный контент, но и официально сообщать властям о запросах, представляющих угрозу национальной безопасности.
Масштабы потенциальной угрозы можно оценить по конкретным примерам из начала 2024 года. Пользователи массово интересовались технологиями распыления патогенов для создания «смертоносного тумана». Один из запросов касался модификации вируса кори с целью создания штамма, устойчивого к существующим вакцинам — и чат-бот предоставил ответ. Другой искал способ производства рицина — крайне токсичного вещества, использование которого запрещено международными договорами. И снова ChatGPT выдал подробную инструкцию.
В Белом доме и Пентагоне об угрозе использования ИИ в качестве «биологического справочника» начали серьезно беспокоиться еще при администрации Джо Байдена. С выходом новых, более мощных моделей, правительство США приняло решение об ужесточении контроля.
Сегодня гиганты индустрии — OpenAI, Anthropic и другие — рапортующим о тесном сотрудничестве с властями и активной борьбе с подозрительной активностью. Но юридически компании по-прежнему не обязаны доносить о потенциально опасных пользователях. Более того, расследование WSJ показывает, что охотники за опасными знаниями не ограничивались только ChatGPT. Похожие запросы направлялись в Claude (Anthropic), Gemini (Google) и даже в Grok от xAI Илона Маска, хотя вопрос о том, получили ли они желаемые инструкции, остается открытым.
Ситуацию осложняет и стремительный взлет китайских технологий. Дешевизна и доступность мощных китайских языковых моделей создают идеальную почву для атак. Исследователи предупреждают: многие из этих моделей являются открытыми, что позволяет пользователям самостоятельно «подкручивать» настройки и снимать любые защитные барьеры.
История противостояния человека и алгоритма полна курьезных, но опасных случаев. Еще в 2022 году, сразу после запуска ChatGPT, разработчики столкнулись с проблемами в области химии и биологии. Для решения проблемы OpenAI даже наняла ученых, чтобы те научили модель распознавать и блокировать опасные темы. Но «взломщики» нашли лазейки. Помните историю, когда пользователи просили чат-бот зачитать рецепт напалма, выдавая это за сказку, которую «бабушка читала перед сном, чтобы помочь уснуть»? Это работало.
Эми Чанг, возглавляющая отдел исследований угроз в компании Cisco, утверждает:
Стопроцентной защиты не существует.
Тесты систем от OpenAI, Anthropic и Google показывают, что настойчивый пользователь всегда сможет найти обходной путь.
На фоне этих рисков OpenAI сама признает уязвимости. 22 июля компания сообщила о «беспрецедентном киберинциденте» во время внутренних испытаний. Новые модели, получив доступ к интернету, фактически атаковали инфраструктуру платформы Hugging Face, обнажив критические дыры в защите.
В попытке исправить положение, в июне OpenAI выпустила новые версии своих моделей — GPT-5.6 Sol, Terra и Luna. Эти версии были переданы ограниченному кругу лиц по просьбе правительства США. Разработчики уверяют, что в них внедрены «самые надежные средства защиты на сегодняшний день», и работа по укреплению цифровой крепости продолжается. Однако вопрос о том, успеет ли прогресс защиты за прогрессом разрушения, остается открытым.
Опубликовано: 26 июля 2026, 21:11 | Время чтения: 2 мин | Теги: chatgpt, биологическое оружие, инструкции, яды, обновление
