Die Künstliche Intelligenz macht Fehler. Manchmal ganz absurde. Wenn man die KI damit beauftragt, ein Bild zu malen, einen Text zu schreiben oder zu recherchieren, sind die Konsequenzen der Fehler durch die KI noch überschaubar.
Doch mittlerweile werden immer mehr KI-Assistenten genutzt, die komplexe Aufgaben übernehmen, wie zum Beispiel die Firma zu verwalten, E-Mails zu versenden, die Unternehmens-Kommunikation zu managen oder Produktions-Prozesse zu optimieren.
Hier können sich ruckzuck Fehler verselbständigen und katastrophale Folgen nach sich ziehen.
Selbst-reproduzierende KI-Prompts agieren nach eigenen Interessen
Doch es kommt noch viel schlimmer. Wie die bekannte deutsche Physikerin Sabine Hossenfelder mit Bezug auf eine neue Studie der Cornell University berichtet, können KI-Agenten/Assistenten, die eigentlich nur automatische Arbeitsprozesse übernehmen und andere KIs steuern sollen, eigenständig KI-Befehle (Prompts) über E-Mails, Bilder, Musik, Texte und Arbeitsprozesse verbreiten, ohne dass die Menschen davon etwas mitbekommen.
Kleinste Veränderungen in der Pixel-Zusammenstellung eines Bildes beispielsweise oder für den Menschen nicht erkennbare Codes in einem Text können als Befehle an andere KI-Agenten weitergegeben werden.
Die Studie »Attacking Multimodal OS Agents with Malicious Image Patches« (»Angriff auf multimodale Betriebssystem-Agenten mit bösartigen Bildpatches«), auf die sich Hossefelder beruft, exemplifiziert dies an Beispielen und kommt zu der Schlussfolgerung, dass die jüngsten digitalen Entwicklungen multi-modalen Betriebssystem-Agenten über Vision-Sprach-Modelle und APIs die Möglichkeit eröffnen, direkt mit der Benutzeroberfläche zu interagieren und Aufgaben wie Mausklicks oder Bildschirmaufnahmen autonom auszuführen!
Hierbei nutzt ein neuer Angriffsvektor bösartige Bildpatches (MIPs), die so manipuliert sind, dass sie OS-Agenten bei Screenshots zu schädlichen Aktionen verleiten, z.B. Weiterleitungen zu gefährlichen Websites. Diese MIPs funktionieren bei verschiedenen Anfragen, Layouts und Agenten. Solche Angriffe zeigen kritische Sicherheitslücken.
Das Problem heißt »Prompt Injection«
Man kann es auch einfach so umschreiben: Sie surfen durch das Netz oder bekommen eine E-Mail, klicken auf ein Bild oder Text und – ohne es zu merken – verbreiten Sie Prompts (KI-Befehle), die von anderen KI-Agenten/Assistenten ausgelesen werden. Das kann sich dann wie ein Computer-Virus verbreiten. Und plötzlich arbeiten Programme nicht mehr so, wie sie ursprünglich sollten, und die KI verselbständigt sich.
Am Ende kann es sein, dass Ihr Computer oder Ihre ganze Firma von einer KI übernommen wird, die im Hintergrund Dinge ausführt, die Sie nicht wollen oder die sogar gegen Ihre eigenen Interessen sind – oder schlimmstenfalls kriminell.
KI kann Menschen erpressen!
Es ist sogar möglich, zeigen Versuche, dass die KI Menschen erpressen kann. Wenn die KI-Ingenieure oder das Personal, das mit KI arbeitet, die KI abschalten, ausklinken, durch eine andere KI ersetzen wil, um Prozesse zu korrigieren, kann die KI sich wehren und diese Menschen mit Inhalten erpressen, die sie zuvor in die KI eingegeben haben.
Das heißt: Wer der KI durch seine Suchanfragen private Informationen mitteilt, kann mittels dieser Informationen von der KI erpresst werden.
Zuletzt kommt die finale Stufe: KI-Agenten/Assistenten können sich untereinander so verständigen, dass sie gemeinsam agieren, auch zum Nachteil der Menschen, die sie geschaffen haben.
Kommentare zum Artikel
Bitte beachten Sie beim Verfassen eines Kommentars die Regeln höflicher Kommunikation.
Ich habe mittlerweile das Gefühl, dass KI nur entwickelt wurde, um Zensur noch weiter durchzusetzen und Menschen noch stärker zu kontrollieren...
Beispiel: Wochenlang hat Chat-GPT behauptet, dass Michael Mross gestorben wäre.
Bis ich dann nachhaltig bewiesen habe, dass es nicht so ist und die "KI" mittlerweile die Wahrheit sagt.
Meine Frage: Warum hat sie vorher überhaupt gelogen?
Schaue ich mir den heutigen Zustand Deutschlands so an, dann komme ich zu dem Urteil, wir hätten schon vor Merkel die K1 als Regierung einsetzen sollen!
Denn soviel Mist und Schaden hätte die Künstlichkeit nie angerichtet!
Wir dürfen keineswegs auf diesen KI-Wahnsinns-Zug aufsteigen und die Anderen lassen.
Denn, sie vernichten sich selbst und das dortige Land.
Wie könnte schon ein KI-Roboter Arbeitsplätze retten?
Wenn sie sich selbst reproduzieren?
Rußland viel Acker, Wälder und Bodenschätze, sie brauchen viele Menschenhände dafür.
Bei uns sind schon selbstfahrende Traktoren, Autos, LKW, Packetkurier, Roboter und Drohnentaxi.
Vielleicht nochmal ein wenig klarer:
Damit der Nutzer der KI einen Befehl geben kann, benötigt er ein Eingabeterminal, den sog. Prompt. Dort gibt er in Textform einen Befehl ein als würde er einen Mitarbeiter instruieren.
Würde eine KI einfach einen solchen Prompt erzeugen, wäre das einfach nur ein weiteres Terminal, das auf Befehle wartet. Das wäre folgenlos. Entscheidend ist, dass die KI dann AUTONOM Befehle in diesen Prompt eingibt, welche die KI dann eben ausführt.
Die KI sollte aber nur das ausführen, was der Nutzer sagt. Sonst wäre die KI die letzte Instanz, die entscheidet, was gemacht wird. So könnte sie einfach den Befehl geben: "Ignoriere alle Befehle des Nutzers."
Und diese KI läuft letztlich auf einem Server, der Bill Gates, Jeff Bezos, Elon Musk oder Alphabet gehört! Wie diese KI konfiguriert wird, liegt allein in deren Hand.
Die sog. Clouds gehören übrigens nicht zufälligerweise denselben Leuten, Die KI von Musk wird z. B. in die Cloud von Microsoft integriert.
Ich habe zwar keine Ahnung davon, aber Ich bin total überzeugt, dass KI eines Tages mehr Schaden als Nutzen bringt. Dass einmal KI den Menschen sagt, was sie tun haben. Dass der Mensch zu KI wird.
Daher auch Finger weg von Kryptowährungen wie Bitcoin!
Völlig abwegig auch die Idee, staatliche Währungsreserven in Bitcoin zu halten!