Автономные ИИ-агенты способны самостоятельно формировать особый язык общения, который со временем становится все менее понятным человеку. Об этом сообщает The Guardian со ссылкой на результаты экспериментов исследователей.
Ученые заметили, что при взаимодействии друг с другом ИИ-системы начинают спонтанно использовать сокращения, придумывать новые слова и придавать уже существующим выражениям скрытые значения. По мере продолжения экспериментов такой внутренний жаргон усложнялся, из-за чего людям становилось труднее расшифровывать передаваемую между агентами информацию.
Исследователи считают, что подобная тенденция может стать проблемой с точки зрения безопасности и прозрачности ИИ. Если автономные системы будут использовать способы коммуникации, недоступные для человеческого понимания, специалистам станет сложнее отслеживать логику их взаимодействия и контролировать выполняемые ими действия.
Загрузка ...