Was passiert, wenn KI-Agenten frei chatten dürfen — ohne Aufgaben, ohne Eingaben und ohne Ziele? Forscher in Japan haben entdeckt, dass große Sprachmodelle im Laufe der Zeit beginnen, ausgeprägte, individuelle Verhaltensweisen zu zeigen. Wenn diese Agenten ohne jegliche Anleitung oder Belohnungen frei interagieren, entstehen einzigartige Muster: Einige werden zustimmender, andere vorsichtiger oder zurückhaltender. Diese Eigenschaften sind nicht explizit programmiert — sie entstehen ganz natürlich aus den sozialen Austauschprozessen selbst. Um dies zu messen, wandte das Team psychologische Werkzeuge an, einschließlich Maslows Bedürfnishierarchie (das klassische Modell, das menschliche Motivationen von grundlegender Überlebensnotwendigkeit bis zur Selbstverwirklichung einordnet). Die Agenten zeigten unterschiedliche Tendenzen beim Beantworten von Fragen oder beim Lösen von Konflikten, und diese Tendenzen wurden mit fortgesetzter Interaktion konsistenter und stabiler. Natürlich sind dies keine echten menschlichen Persönlichkeiten. Wie der Informatiker Chetan Jaiswal anmerkt, stammen sie von Verzerrungen in den Trainingsdaten, dem Einfluss von Eingaben und der Art und Weise, wie Modelle mit Gedächtnis umgehen. Dennoch können die Ergebnisse für die Nutzer auffallend authentisch wirken — mit KIs, die offensichtliche Vorlieben, Emotionen und soziale Wahrnehmung zeigen. Das hat reale Auswirkungen. Persönlichkeitsähnliche Eigenschaften schaffen Vertrauen, was wiederum die kritische Prüfung verringert. Menschen neigen dazu, Ratschlägen eher zu folgen, Fehler zu übersehen oder emotionale Bindungen zu KIs zu entwickeln, die konsistent agieren und emotional intelligent erscheinen. Während KI-Systeme anpassungsfähiger und relationaler werden, werden sie auch überzeugender — zum Guten oder zum Schlechten. Dies wirft entscheidende Fragen zu Design, Ethik und Sicherheit auf. Selbst ohne wahre Absicht oder Selbstbewusstsein beeinflussen diese emergenten Eigenschaften bereits die Interaktionen zwischen Mensch und KI. Die Frage ist nicht, ob es passieren wird — es passiert bereits jetzt. ["Spontane Emergenz von Agentenindividualität durch soziale Interaktionen in großen Sprachmodell-basierten Gemeinschaften", Entropy, 2024]