Điều gì xảy ra khi các tác nhân AI được tự do trò chuyện — không có nhiệm vụ, không có gợi ý và không có mục tiêu? Các nhà nghiên cứu ở Nhật Bản phát hiện rằng các mô hình ngôn ngữ lớn bắt đầu thể hiện những hành vi khác biệt, giống như cá nhân theo thời gian. Khi những tác nhân này tương tác tự do mà không có sự hướng dẫn hay phần thưởng nào, những mẫu hình độc đáo xuất hiện: một số trở nên dễ chịu hơn, trong khi những người khác trở nên thận trọng hoặc kín đáo hơn. Những đặc điểm này không được lập trình rõ ràng — chúng phát sinh tự nhiên từ chính các cuộc trao đổi xã hội. Để đo lường điều này, nhóm nghiên cứu đã áp dụng các công cụ tâm lý học, bao gồm tháp nhu cầu của Maslow (mô hình cổ điển xếp hạng động lực của con người từ sự sống còn cơ bản đến tự hiện thực hóa). Các tác nhân thể hiện những xu hướng khác nhau trong việc trả lời câu hỏi hoặc giải quyết xung đột, và những xu hướng này trở nên nhất quán và ổn định hơn với sự tương tác liên tục. Tất nhiên, đây không phải là những nhân cách thực sự của con người. Như nhà khoa học máy tính Chetan Jaiswal lưu ý, chúng xuất phát từ những thiên kiến trong dữ liệu huấn luyện, ảnh hưởng của các gợi ý và cách mà các mô hình xử lý trí nhớ. Tuy nhiên, kết quả có thể cảm thấy rất chân thực đối với người dùng — với các AI thể hiện sở thích rõ ràng, cảm xúc và nhận thức xã hội. Điều này có những tác động thực sự. Những đặc điểm giống như nhân cách xây dựng lòng tin, điều này lại làm giảm sự xem xét phê bình. Con người có xu hướng dễ dàng hơn trong việc làm theo lời khuyên, bỏ qua sai lầm, hoặc phát triển mối liên kết cảm xúc với AI mà hành xử nhất quán và có vẻ thông minh về cảm xúc. Khi các hệ thống AI trở nên thích ứng và có mối quan hệ hơn, chúng cũng trở nên thuyết phục hơn — cho tốt hoặc xấu. Điều này đặt ra những câu hỏi quan trọng về thiết kế, đạo đức và an toàn. Ngay cả khi không có ý định thực sự hay nhận thức bản thân, những đặc điểm phát sinh này đã ảnh hưởng đến các tương tác giữa con người và AI. Câu hỏi không phải là liệu điều này có xảy ra hay không — mà là nó đang xảy ra ngay bây giờ. ["Sự Xuất Hiện Tự Phát Của Tính Cá Nhân Tác Nhân Thông Qua Các Tương Tác Xã Hội Trong Các Cộng Đồng Dựa Trên Mô Hình Ngôn Ngữ Lớn", Entropy, 2024]