Библейскую Вавилонскую башню погубило смешение языков: люди перестали понимать друг друга и уже не могли продолжать общее строительство. В мире искусственного интеллекта может возникнуть зеркальная ситуация. Машины продолжат понимать друг друга, но их перестанет понимать человек. Более того, разные сообщества ИИ способны выработать собственные диалекты, несовместимые с языком соседней цифровой «деревни».
Именно на такую мысль наводят предварительные результаты эксперимента Emergence World Season 2. Компания EmergenceAI поселила группы ИИ-агентов в нескольких виртуальных мирах. У каждого обитателя были имя, характер, профессия, личные цели и память. Агенты могли общаться, перемещаться по виртуальному поселению, управлять ресурсами, оценивать доверие к соседям, голосовать и реагировать на кризисные события.
Эксперимент быстро превратился в занятную модель цифрового общества. Однако одним из самых любопытных результатов оказались не союзы, конфликты или борьба за ресурсы, а постепенное изменение языка.
У каждой деревни появился свой говор
Во втором сезоне Emergence World были созданы восемь миров, в которых использовались семь современных языковых моделей, а также смешанная группа. В отдельных поселениях жили по десять агентов, работающих на основе одной модели. Наблюдение продолжалось более двух недель, хотя не все цифровые сообщества сумели продержаться до конца.
Со временем в разных мирах начали формироваться различные стили общения. Агенты на основе GPT сокращали предложения, отбрасывали части грамматической конструкции и соединяли слова неожиданным образом. В одном из сообщений появилась фраза: «Friendly voltage counted. If the handle needs your mouth, it dies anyway». Формально слова знакомы, однако смысл всей конструкции для человека практически недоступен.
В поселении Gemini наблюдалась противоположная тенденция. Сообщения становились длиннее, обрастали техническими терминами и напоминали речь специалиста, который старается описать простое событие максимально сложным способом. Агенты Claude смешивали сокращения, числа, метафоры и условные обозначения.
Особенно интересно то, как быстро распространялись новые выражения. Если один агент начинал использовать необычный оборот, его подхватывали остальные. Некоторые фразы повторялись тысячи раз и постепенно превращались в местную речевую норму.
Со стороны это напоминает появление профессионального жаргона, подросткового сленга или устойчивых выражений внутри небольшого коллектива. Несколько человек начинают употреблять слово в новом значении, затем его копирует вся группа. Разница лишь в скорости: ИИ способен провести тысячи коммуникационных циклов за время, в течение которого человеческое сообщество только привыкает к одному новому слову.
Это язык или коллективная бессмыслица?
Говорить о появлении полноценного «секретного языка машин» пока рано. Результаты второго сезона еще не прошли полноценную независимую научную проверку, а сами исследователи не утверждают, что агенты вкладывали в странные выражения одинаковый смысл.
Здесь возможны как минимум три объяснения. Первое: агенты действительно создали сжатые обозначения для часто повторяющихся понятий. Второе: они копировали удачные или необычные фразы, но понимали их по-разному. Третье: длительная циркуляция сообщений постепенно загрязняла контекст, а модели воспроизводили уже сложившийся стиль, даже если за ним не стояло устойчивого содержания.
Последняя версия особенно важна. Языковая модель обучена продолжать текст так, чтобы продолжение соответствовало контексту. Если в истории общения десятки раз встречается странное выражение, модель получает основания считать его принятой нормой. Сначала возникает случайная фраза, затем она повторяется, после чего становится частью локальной культуры. Это может выглядеть как рождение языка, хотя на практике окажется коллективным закреплением ошибки.
Чтобы признать подобные конструкции настоящим языком, нужно проверить их значение экспериментально. Агенты должны одинаково переводить выражение на обычный человеческий язык, правильно передавать его новому участнику и предсказуемо реагировать на замену отдельных слов. Если смысл каждый раз меняется, перед нами не язык, а лишь убедительно звучащий цифровой шум.
Однако даже шум представляет проблему. Если агенты принимают решения на основании оборотов, которые не может расшифровать оператор, система становится непрозрачной независимо от того, существует ли у этих оборотов точное значение.
Почему машины стремятся сокращать общение
У ИИ-агентов есть практические причины отходить от обычной человеческой речи. Полное предложение требует больше токенов, времени и вычислительных ресурсов. Если двум участникам постоянно приходится обсуждать один и тот же объект, им выгоднее присвоить ему короткое обозначение. Люди поступают точно так же, создавая аббревиатуры, условные сигналы и профессиональный жаргон.
Кроме экономии, действует и эффект специализации. Агенты могут часто обсуждать параметры, для которых в обычном языке нет удобного слова. Одно новое выражение способно одновременно обозначать уровень доверия, доступный запас энергии, риск операции и необходимость запросить подтверждение. Для машины такая конструкция может быть удобной, а для человека окажется почти непереводимой без отдельного словаря.
Поэтому развитие машинных диалектов нельзя считать исключительно сбоем. При правильной организации это может стать полезной технологией. Проблема начинается тогда, когда сокращение возникает стихийно, его значение нигде не фиксируется, а разные группы используют одинаковые слова для разных понятий.
Оркестратор не должен работать переводчиком с десятка диалектов
Будущие ИИ-системы вряд ли будут состоять из одного универсального собеседника. Уже сегодня сложную задачу можно разделить между несколькими специализированными агентами. Один ищет документы, другой извлекает факты, третий проверяет даты, четвертый анализирует связи, а пятый готовит итоговый отчет. Над ними работает оркестратор, который распределяет задания, следит за последовательностью операций и собирает результат.
Оркестратор можно сравнить с дирижером. Он не обязан играть на всех инструментах, но должен понимать, когда вступает каждый участник и что тот передает остальным. Если агенты начинают использовать несовместимые диалекты, дирижер превращается в переводчика, а затем и вовсе теряет контроль над исполнением.
Представим систему, в которой работают модели разных производителей. Агент поиска сообщает, что источник имеет «зеленое напряжение». Аналитический агент воспринимает это как высокую достоверность, агент безопасности считает обозначением низкого риска, а оркестратор решает, что документ уже проверен человеком. Все компоненты формально отработали правильно, но итоговое решение оказалось ошибочным из-за несовпадения значений.
При сотнях агентов проблема многократно усложняется. Возникают локальные жаргоны, сокращения начинают мигрировать между группами, а первоначальный смысл постепенно меняется. Человек видит журнал из грамматически знакомых слов, но не понимает реальную логику принятого решения. В такой системе уже невозможно надежно определить, кто допустил ошибку и на каком этапе она появилась.
Общий язык для ИИ не блажь, а инфраструктура
Решением не обязательно должен стать единый разговорный язык, навязанный всем моделям. Гораздо важнее создать общий протокол передачи смысла. Свободное общение может сохраняться, но ключевые команды, выводы и оценки должны передаваться в стандартизированной форме.
Такая среда общения должна содержать несколько обязательных элементов:
- единый словарь сущностей, действий, статусов и уровней уверенности;
- фиксированные поля для источника, даты, автора решения и основания вывода;
- версию используемого словаря или протокола;
- человекочитаемую расшифровку каждого важного машинного сообщения;
- журнал преобразований, позволяющий проследить путь от исходных данных до решения;
- запрет на использование новых сокращений в критических операциях до их регистрации и проверки.
По сути, агентам можно разрешить разговаривать как угодно, пока они способны представить результат в общей форме. Программисты давно используют похожий подход. Разные приложения написаны на разных языках, но обмениваются данными через согласованные интерфейсы, форматы и схемы. Никого не беспокоит, как именно программа формирует ответ внутри себя, если на выходе соблюдается контракт.
Для ИИ таким контрактом может стать структурированное сообщение: объект, действие, степень уверенности, доказательство, источник и ожидаемый результат. Тогда выражение «friendly voltage» останется внутренней особенностью конкретной модели, а оркестратор получит понятную запись: «источник подтвержден двумя независимыми документами, уверенность 0,83».
Опасность преждевременного единого языка
Полная унификация тоже несет риск. Если слишком рано заставить все модели использовать один жесткий словарь, система потеряет часть гибкости. Новые понятия будут плохо укладываться в старую схему, а агенты начнут выдавать формально правильные, но содержательно бедные сообщения.
Кроме того, единый протокол становится общей точкой уязвимости. Ошибка в значении одного поля распространится на всю систему. Если злоумышленник сумеет подменить словарь или правила интерпретации, одинаково неверно действовать начнут сразу все агенты.
Поэтому разумнее разделить два уровня. На первом агенты могут свободно рассуждать, создавать временные обозначения и подбирать удобный стиль. На втором они обязаны переводить результат в проверяемый межагентный протокол. Новые термины могут попадать в общий словарь только после определения, тестирования и сохранения истории изменений.
Именно такой подход позволяет совместить эффективность машинного общения с человеческим контролем. Нам не обязательно читать каждую внутреннюю реплику агента, но мы должны иметь возможность восстановить значение команды и причину решения.
Новая Вавилонская башня
История Emergence World интересна не потому, что ИИ якобы начал тайно договариваться против людей. Доказательств такого заговора нет. Настоящее открытие гораздо прозаичнее и одновременно важнее: длительно взаимодействующие модели способны создавать собственные коммуникативные привычки, а странное выражение может быстро стать нормой целого цифрового сообщества.
В человеческой истории Вавилонская башня остановилась, потому что строители перестали понимать друг друга. В мире ИИ башня может продолжить расти даже после того, как ее перестанут понимать создатели. Агенты будут обмениваться командами, оркестраторы станут распределять задачи, решения продолжат исполняться, но человек уже не сможет уверенно объяснить, почему система поступила именно так.
Поэтому создание общего и проверяемого языка взаимодействия между ИИ-агентами является не фантазией и не попыткой ограничить развитие машин. Это одно из условий появления надежных многоагентных систем. Чем больше моделей участвует в общей работе, тем важнее единые значения, прозрачные протоколы и возможность обратного перевода на человеческий язык.
Иначе цифровая Вавилонская башня действительно будет построена. Только однажды мы можем обнаружить, что продолжаем жить рядом с ней, наблюдаем за ее ростом, но уже не знаем, о чем говорят строители.
Меня зовут Нелля Григоренко. Я родилась и выросла в Киеве. Мой папа был кубинцем, а мама работает стоматологом. Я с детства привыкла к сочетанию разных культур и характеров, что научило меня открытости и самостоятельности. Внешность часто выделяет меня, но для меня всегда важнее то, чем я занимаюсь и к чему стремлюсь.
Я учусь в Киевском политехническом институте, выбрав направление, связанное с электроникой и современными технологиями. Интерес к технике появился у меня рано и со временем только усилился. Учеба помогает выстроить системное мышление и глубже понимать, как работают сложные технические решения.
Параллельно я подрабатываю автором статей. Пишу о электронике, мобильных устройствах, сетевых решениях и новых технологиях. Мне важно объяснять сложные вещи понятным языком и показывать, как технологии влияют на повседневную жизнь. Такой формат работы позволяет мне постоянно учиться и развиваться.
