Aber wenn ich jetzt den Satz von d5000 lese, wie wahrscheinlich ist das eigentlich, dass größere, auch finanzstarke Akteure gezielt das Internet fluten mit Informationen zu ihren eigenen Gunsten, weil sie wissen, dass die KIs dann heute das aufnehmen und als Antwort für KI Nutzer reproduzieren? Da steuern wir doch auch noch auf Informtionskriege an den Finanzmärkten zu?
Guter Punkt, das halte ich tatsächlich für ziemlich wahrscheinlich, dass es solche Manipulationsversuche gibt (heißt wohl "Datenvergiftung" oder so). Es scheint sogar Strategien zu geben, die gezielt versuchen Halluzinationen zu generieren und für die eigenen Zwecke zu nutzen. Ob diese Techniken allerdings effektiver sind als das, was es schon jahrzehntelang gibt, nämlich gezielte SEO? Ich denke da wird man etwas abwarten müssen bis gute Studien dazu existieren (wenn jemand welche kennt, her damit
).
Ein Aspekt den man z.B. bedenken könnte und womöglich die Strategie etwas abschwächt ist die Personalisierung der Antworten der KIs. Die KI trainiert sich ja selbst auf ihre Nutzer, und gerade bei Power-Usern kann sie so statistisch "einschätzen", welchen Bias der Leser hören möchte. Andererseits verbreiten sich ja auch Strategien wie das Wort "stateless" in Prompts, um diese Personalisierung zu umgehen, wobei ich nicht weiß wie weit diese bei Normalnutzern (die ja besonders manipulationsanfällig sind) verbreitet sind.
Auch haben Google und Co. das Problem durch die gesamte SEO/Backlinknetzwerk usw. Tradition ja auch schon länger im Fokus und die Verteidigung dagegen sollte ähnlich sein, also Algorithmen finden, die solche Manipulationsversuche detektieren können. Da geht es ja oft um die Autorität und Vertrauenswürdigkeit von Quellen. Wenn z.B. eine Meldung von Tausenden Blogs aber keiner einzigen als "seriös" eingestuften Finanzwebsite gebracht wird, ist sie wohl von geringer Qualität und wird eben von den Indexern für die KIs entsprechend schlecht eingestuft.
Trotzdem kann immer mal jemand mit so einer Manipulation durchkommen, aber grundsätzlich sollten die KI-Betreiber daran interessiert sein, dass das nicht überhand nimmt, da sonst das eigene Geschäftsmodell in Frage gestellt wird. Gerade bei einer im Hintergrund lauernden Gefahr eines Platzens der KI-Blase werden die sehr vorsichtig sein.
Wenn ein Betreiber von KI jetzt z. B. Sucheingaben bemerkt, die auf ein gesteigertes Interesse an Bitcoin hinweisen und da vielleicht 500 Millionen Nutzer sind im Monat, dann kann das doch heftig zu Manipulation verleiten?
Meinst du damit dass die KI-Betreiber selbst versuchen, die Manipulationen zu fördern um selbst zu profitieren? Ich denke die Suchmaschinentradition sagt auch hier, eher nein, denn hätte Google das in der SEO-Ära zugelassen wären sie wahrscheinlich schnell weg gewesen. Dasselbe gilt für OpenAI, Anthropic usw. heute.
