28.06.2025, 10:01
(28.06.2025, 00:09)Quintus Fabius schrieb: Romantisierung, Verklärung, politische Einflüsse usw. spiegeln sich aber nun eben auch in der Darstellung der Geschichte durch KI wieder.Nicht nur das. KI versucht immer auch herauszufinden, wo die Gewichtung der Antwort für den Anfragenden liegt. Also "zu was" der Anfragende was hören möchte. Und präsentiert dann je nachdem ein unterschiedliches Narrativ, das auch schon mal inhaltlich zueinander gegenteilige Behauptungen aufstellen kann.
Sehr einfach testen kann man dies mit dem bei Google-Suchen präsentierten "AI Overview" als generativer KI. Die gewichtet nämlich die Anfrage schlicht nach der Reihenfolge der Wörter, wahrscheinlich irgendwie gruppiert. Also einfach mal eine Anfrage mit z.B. vier Begriffen stellen und dann die beiden in der Mitte vertauschen.
Ein einfaches (unpolitisches) Beispiel wäre
"Heidelberg Unterführung Adenauerplatz 1959" vs "Heidelberg Adenauerplatz Unterführung 1959"
Man möchte also etwas zu einer Unterführung an diesem Platz in dieser Stadt hören, und das soll irgendwas mit dem Jahr zu tun haben.
Die KI kriegt bei der ersten Anfragenvariante diesen Bogen durchaus gespannt und produziert eine Antwort, die zwar nicht ganz korrekt ist, aber zumindest ungefähr hinkommt und auch die Anfrage befriedigt. Zum Auffüllen werden Allgemeinplätze verwendet. Könnte als Antwort so von einem Gymnasialschüler stammen.
Bei der zweiten Anfragenvariante scheint sie sich hingegen komplett zu verrennen und stellt eine komplette Falschbehauptung auf. Und beendet die Antwort im wesentlichen mit einem "sollte man ggf. in weiteren Quellen nachschauen".