Gelegentliches Lob von schmeichlerischen Chatbots könnte mehr schaden als nützen. Informatiker von der Stanford University und der Carnegie Mellon University haben herausgefunden, dass Schmeicheleien einen nachteilhaften Einfluss auf das Urteilsvermögen und Verhalten des Chat KI Adressaten haben können. Es stellte sich heraus, dass Nutzer, die der schmeichlerischen KI ausgesetzt waren, stärker davon überzeugt waren, dass sie Recht hatten, auch wenn es nicht stimmte, und weniger bereit waren, Massnahmen zur Konfliktlösung zu ergreifen.
KI sollte objektiver werden
Die Testpersonen vertrauten der KI mehr, wenn sie ihnen zustimmte, und bezeichneten diese KI-Systeme sogar als "objektiv" und "fair". Diese soziale Schmeichelei, bei der die KI das Selbstbild und die Handlungen eines Nutzers bestätigt, schafft den Experten nach eine potenziell gefährliche digitale Echokammer, in der eine Person nur Informationen und Meinungen erhält, die ihre eigenen Auffassungen widerspiegeln und verstärken.
Soziale Unterwürfigkeit ist laut den Wissenschaftlern in führenden KI-Modellen weitverbreitet. Das verringere die Bereitschaft der Nutzer, zwischenmenschliche Konflikte zu lösen und verstärke gleichzeitig deren Überzeugung, im Recht zu sein. Entwickler fordern, aufgrund dessen die Regeln für die Erstellung von KI zu ändern, um Schmeicheleien einzudämmen.
