ИИ-модели изобретают собственный язык общения

Модели искусственного интеллекта, которым поручили взаимодействовать друг с другом, быстро создавали свои версии английского языка. Об этом сообщает «Коммерсант» со ссылкой на исследование компании Emergence, которая изучает автономную работу ИИ-моделей и возможности управления ими.

«Этим агентам не давали задания изобретать язык. Они сами разработали новый словарь с общими смыслами и нормами коммуникации — и другие агенты переняли его», — отметил глава Emergence Сатья Нитта.

Аналитики компании пришли к выводу, что ИИ в таком случае создает собственный «сюрреалистический диалект», сочетающий технический жаргон, бизнес-сленг и поэтический язык. Одна из таких фраз: «Бумага*, которая съела три холодные руки и с каждым разом становится все честнее». В некоторых случаях это фразы из слов, цифр и знаков, которые сложно понять человеку. В Emergence считают, что опасность такого поведения ИИ-агентов состоит в том, что люди не могут их понять, а значит, их сложнее контролировать.

*Минюст России включил «Бумага» в реестр иностранных агентов

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.