Meine Befürchtung, dass es durch die KI zu immer mehr Hacks kommen wird bewahrheitet sich langsam und das ganze wird vermutlich immer schlimmer werden, denn die KI‘s werden immer besser. Ich weiß nur nicht wie man das ganze stoppen oder verteidigen möchte oder kann?
...
Was sich aber enorm geändert hat ist die Skalierbarkeit. KI ermöglicht es, innerhalb kürzester Zeit zigtausende potenzielle Ziele zu analysieren, individuelle (!) Phishing-Nachrichten zu erstellen oder Schwachstellen automatisiert auszunutzen. Angriffe werden dadurch nicht nur einfacher, sondern auch wirtschaftlich interessanter. Was früher einen hohen manuellen Aufwand gebraucht hätte wird heutzutage einfach wegautomatisiert.
Die KI steht aber natürlich nicht nur den Angreifern zur Verfügung, man kann als Verteidiger damit genauso Systeme überwachen, jedwede Anomalien erkennen und Sicherheitslücken schneller (bzw. auch mit KI automatisiert) schließen. Das Problem ist aber natürlich, dass die Angreifer schlichtweg schneller sind und einen zeitlichen Vorteil haben: Es reicht eine einzige gefundene Schwachstelle um in ein (hochkomplexes) System einzudringen, während man sich als Verteidiger komplett absichern muss und keine Lücken offen lassen darf.
...
Die Skalierbarkeit ist der entscheidende Vorteil. Wenn ein Angreifer es schafft ein System zu penetrieren, kann er im Anschluss diesen Angriff über unzählige Systeme laufen lassen. Wenn jemand KI zur Abwehr nutzt bzw. zum Testen von Schwächen im eigenen System, dann ist zunächst erstmal nur das eigene System gefixt. Häufig lassen sich Angriffe dann auf anderen Webseiten oder Geräten reproduzieren. Ansonsten hätte es oft schon öffentliche Bugfixes dafür gegeben. Ich bin auch sicher, dass es genau so läuft. Die Angreifer probieren eben was geht und dann läuft es nur noch darauf hinaus ein wertvolles Ziel zu finden, was sich grad nicht optimal absichert.
Ich finde, dass das alles auch sehr verzerrte Anreize mit sich bringt. Nicht jede KI ist gleich gut, gibt es dementsprechend eine KI, die Exploits besser entdeckt als andere? Was, wenn ich hinter verschlossenen Türen bei Anthropic weiß, dass die eigene KI besser ist Schwachstellen zu finden als eine andere KI es beherrscht, genau diese zu schließen? Macht man das öffentlich? Behält man es für sich? Nutzt man es vielleicht sogar gezielt aus, um das System der Konkurrenz vielleicht zu überwinden?
Manchmal glaube ich, dass so kleine Leute wie ich nicht einmal 5% von dem verstehen, was den größten KI Anbietern längst bekannt ist. Die harten Zahlen gehen übrigens deutlich nach oben. Da gibt es bereits Erhebungen zu inwieweit KI die Cyberkriminalität bereits beschleunigt hat. Es wird doch mittlerweile alles angegriffen. Sogar die Lebensmittelkühlungen in Supermärkten, Logistiksysteme dafür und so weiter.
Ich habe auch gelesen, dass der durchschnittliche Wert eines Hackerangriffs signifikant gestiegen ist seit KI real geworden ist, was damit zu tun hat, dass die durchschnittlichen Kosten pro Angriff stark gesunken sind. Das geht dann mit dem gesamten Post von Lakai01 einher.

Ich beschäftige mich damit ja auch beruflich und muss ganz ehrlich sagen, dass ich glaube, dass wir hier erst am Anfang des Ganzen stehen ...
Überlegt mal wie unsicher Supermärkte heute noch sind, denen gelingt es nicht mal Ware gegen einfachen Diebstahl zu sichern bei den meisten Sachen. Jetzt kann man sich vorstellen, was die großen Ketten in Cybersecurity zu investieren bereit waren. Das wird gegen 0 gehen. Nun müssen die plötzlich den Kampf mit KI Cyberangriffen aufnehmen, was garantiert auf die Lebensmittelpreise umgewälzt wird, weil das keine Kleinigkeit sein wird, ganze Logistikketten zu schützen. Ich stelle mir das sogar fast unmöglich vor.
Leider kennt das moralische Niveau dieser Hacker auch keinen Boden. Kühltruhen angreifen, damit Lebensmittel verderben, oder dann eben auch Krankenhäuser, das sind unangenehme Aussichten... Die drohen einmal, die Dialyse Abteilung abzuschalten und schon hat man das Problem. Vor allem, die müssen möglicherweise nur einen erfolgreichen Angriff durchführen auf eine Klinik und können dann hunderte weitere lediglich bedrohen. So schnell kann ein Krankenhaus überhaupt nicht rausfinden, ob Angreifer im System sind. Also müssen autarke Systeme her, wieder gehen die Kosten hoch.
So sehr solche Menschen wie Elon Musk rumerzählen, dass KI uns allen das Leben günstiger machen wird, ich glaube nicht dran. Es braucht nur einen gewaltigen Angriff auf irgendeine absolut kritische Infrastruktur und sofort muss die ganze Welt weiter defensiv aufrüsten in dem Bereich, weil Angreifer vor allem die psychologischen Kosten hochtreiben. Man stelle sich vor, die bringen ein einziges Flugzeug zum Absturz nachweislich mit KI, die Konsequenzen wären extrem.
Ich will kein Angstprophet sein, aber die Möglichkeiten für Menschen mit schlechten Gedanken sind doch um ein Vielfaches gestiegen glaube ich.