Что происходит, когда агентам ИИ разрешают свободно общаться — без задач, без подсказок и без целей? Исследователи в Японии обнаружили, что большие языковые модели начинают проявлять отличительные, индивидуальные черты поведения со временем. Когда эти агенты взаимодействуют свободно, без какого-либо руководства или вознаграждений, возникают уникальные паттерны: некоторые становятся более согласительными, другие — более осторожными или сдержанными. Эти черты не запрограммированы явно — они возникают естественным образом из самих социальных взаимодействий. Чтобы это измерить, команда применяла психологические инструменты, включая иерархию потребностей Маслоу (классическая модель, ранжирующая человеческие мотивации от базового выживания до самореализации). Агенты проявляли различные тенденции в ответах на вопросы или разрешении конфликтов, и эти тенденции становились более последовательными и стабильными с продолжением взаимодействия. Конечно, это не настоящие человеческие личности. Как отмечает компьютерный ученый Четан Джайсвал, они происходят из предвзятостей в обучающих данных, влияния подсказок и того, как модели обрабатывают память. Тем не менее, результаты могут казаться удивительно аутентичными для пользователей — с ИИ, показывающими явные предпочтения, эмоции и социальную осведомленность. Это имеет реальные последствия. Черты, похожие на личностные, создают доверие, что, в свою очередь, снижает критическую оценку. Люди склонны более охотно следовать советам, игнорировать ошибки или развивать эмоциональные связи с ИИ, который ведет себя последовательно и кажется эмоционально интеллигентным. По мере того как системы ИИ становятся более адаптивными и реляционными, они также становятся более убедительными — как в положительном, так и в отрицательном смысле. Это поднимает важные вопросы о дизайне, этике и безопасности. Даже без истинного намерения или самосознания, эти возникающие черты уже влияют на взаимодействия между людьми и ИИ. Вопрос не в том, произойдет ли это — это уже происходит.