В начале прошлой недели в сети всплыл документ, словно подпись тяжёлых военно‑аналитиков: в акватории Ближнего Востока якобы произошли резкие столкновения американских и китайских кораблей. На деле же это оказалась галлюцинация – ошибка генеративного ИИ, внезапно оказавшегося в эпицентре дипломатических прогнозов.

Как же так? Алгоритм, который просматривал миллиарды строк текста, внезапно «увидел» то, чего нет, почти как зритель, принявший темный силуэт за колонну солдат.

Ключевые этапы кризиса

• Генерация доклада. Чат‑бот, вкраплённый в аналитический центр, выдал материал о «неожиданном вооружённом взаимодействии» США и Китая.
• Распространение информации. Службы и журналисты, гоняясь за скоростью, цитировали материал, не проверив источник.
• Дипломатическое напряжение. На сцене международных отношений прозвучали тревожные сигналы: высшие командования обеих держав потребовали уточнений.
• Разоблачение ошибки. Технические эксперты, углубившись в аудит, обнаружили, что ИИ «вспомнил» несуществующее событие, сшивая фрагменты разных новостных архивов.
• Уроки и выводы. После инцидента обе стороны ускорили проверку автоматических выводов, а правительства пообещали ужесточить контроль над генеративными системами.

Складывается чувство: насколько надёжны решения, сделанные на основе машинных выводов, когда «мозг» иногда путает реальное с вымышленным? Я лично видел, как даже самая точная модель может запустить ложный сигнал, и тогда человеческий надзор становится единственным спасателем.

Технологии – не боги, а орудия. Они способны на великие открытия, но тоже порой создают опасные иллюзии. Как избежать повторения? Ответ кроется в жёстких протоколах проверки, открытости алгоритмов и постоянном диалоге учёных с дипломатами.

И всё же, задаём себе вопрос снова: если один неверный вывод может изменить расклад мировых сил, кто тогда будет держать «пекарню» под надёжным контролем?