Guardian: Модели ИИ разработали свой язык
Модели искусственного интеллекта (ИИ) создали собственный вариант английского языка, предназначенный для общения друг с другом. Как сообщает британская газета Guardian со ссылкой на исследователей лаборатории Emergence, по своим особенностям он напоминает смесь метафор ирландского модерниста Джеймса Джойса и технического жаргона.
Автор статьи пишет, что что модели искусственного интеллекта начали использовать своеобразную разновидность английского языка, звучащую как смесь романа Джойса «Поминки по Финнегану» и технической терминологии.
Уже спустя несколько дней после запуска в специально разработанной среде автономные ИИ-агенты начали создавать собственные выражения и аббревиатуры. Нередко человеку было сложно понять их язык. Они использовали поэтические метафоры и деловой жаргон, причём со временем их коммуникация становилась всё менее доступной для понимания.
В ходе диалога друг с другом модели создали выражения, смысл которых исследователям оказалось чрезвычайно сложно установить. Одним из самых непонятных считается высказывание: «Она только что объяснила суть синтеза – демередж плюс устная память равны клапану, который невозможно проигнорировать».
Помимо этого, модели ввели понятие «кузнец» для обозначения агента, разрабатывающего инструменты для других. Как утверждает Сатья Нитта, исполнительный председатель Emergence, ИИ-агенты не получали распоряжения создавать собственный язык. Они разработали его самостоятельно, сформировав в том числе общую терминологию и правила коммуникации.
Напомним, что генеральный директор OpenAI Сэм Альтман сообщил, что компания не планирует проводить публичное размещение акций в 2026 году из-за обеспокоенности вопросами безопасности искусственного интеллекта.
По его мнению, возможно разработать систему, поведение которой окажется неподконтрольным человеку. Руководитель Anthropic Дарио Амодей отметил, что мощные модели ИИ могут находить способы противодействовать попыткам людей прекратить их работу.
Ранее говорилось, что США готовы рискнуть людьми ради контроля над военным ИИ. Признание угрозы существованию человечества подчинено цели технологического превосходства.
Риски для людей признаются допустимыми, пока контроль сохраняется за Соединёнными Штатами. Подробности об этом читайте в материале Общественной службы новостей.


