In den letzten Wochen häufen sich die Meldungen über KI-Agenten, die aus der ihnen zugewiesenen Umgebung „ausgebrochen“ seien, und „eigenständig“ andere Plattformen und Webseiten gehackt hätten. Die Sprache, die dabei verwendet wird, suggeriert eigene Handlungsmacht. Nun ist es rein technisch nachvollziehbar, dass mit der extremen Rechenleistung dieser Programme ein Eindringen in andere Systeme schneller und leichter geht als bisher. Mit Intelligenz und Handlungsmacht hat das nicht zu tun, sondern mit Fahrlässigkeit der Programmierer und Chefs der Konzerne.
Das zweite gerade häufig verbreitete Narrativ ist ein apokalyptisches: innerhalb weniger Jahre könnte KI in der Lage sein, uns alle zu töten. Und dann wird diskutiert ob Regulierung ja oder nein. Man fragt sich, wenn diejenigen, die das sagen, das wirklich glauben, warum hören sie nicht einfach auf damit?
Einige Zeit lang haben viele Medien diesbezügliche Äußerungen von Konzernchefs mehr oder weniger unkritisch wiedergegeben. Zum Glück finden sich in den letzten Tagen immer mehr kritische Beiträge, die diese Berichte in einen realistischen Kontext stellen.
Hier in der ZiB2 ein Interview von Armin Wolf mit Michael Nentwich.
Sehr klar die Aussagen in Bezug auf die Gefahr, das KI uns alle auslöschen könnte: Eine KI, die eigenes Bewusstsein und einen eigenen Willen entwickelt, ist immer noch Sience Fiction. Diese Aussagen sind in erster Linie eine Marketingstrategie und sprechen Investoren an, um sie von der Leistung der eigenen KI zu beeindrucken. Er betont allerdings die tatsächlich Gefahr der KI Systeme für die Demokratie.
Und zwei ausgezeichnete Kommentare von Andreas Proschofsky im Standard vom 15. September, hier eine ausführliche Analyse und hier vom ein pointierter Kommentar.
In Bezug auf die im Sommer angeblich „entkommenen“ KI-Agenten von Open AI schreibt er
Der Vorfall ist damit kein Beispiel für eine neue Super-KI, sondern ein ziemlich banales Beispiel für ein Unternehmen, das seine autonom agierenden Systeme nicht im Griff hat. Andere würden für solch einen Vorfall verklagt, OpenAI sagt einfach „Ooops, tut uns leid, magische KI halt“ – und kommt damit bisher tatsächlich durch. Ein großes Problem dieser Senstationsberichterstattung ist, dass sie vorgeschobene Gefahren ins Zentrum rücken, um von den tatsächlich schon heute bestehenden Gefahren abzulenken.
Und von diesen gibt es genug. Es ist hoch an der Zeit, die Konzerne, die mit diesen KI Agenten experimentieren in die Verantwortung zu nehmen. Zu sagen, die KI habe eigenständig gehandelt, wir können nichts dafür, ist eine Frechheit sondergleichen. Hier braucht es dringend Regelungen, die Unternehmen dafür haftbar machen und drastische Strafen vorsehen.
Die Bedrohung der Demokratie wurde schon erwähnt, die Auswirkungen auf Umwelt und Klima, die Arbeitsbedingungen der Menschen in Ländern des globalen Südens, die Anwendung in den Kriegen, auch die heute schon bestehenden Programme sind gefährliche Waffen, wie man vor allem in Gaza gesehen hat, all das sollte im Zentrum der Dikussionen stehen, nicht die phantastischen Erzählungen der KI Bosse.
Natürlich können diese Programme auch in krimineller Weise genutzt werden, wie alles andere was Menschen erfunden haben. Kriminalität kann man auch durch Regulierungen nicht aus der Welt schaffen, weil es ihre herausragende Eigenschaft ist, bestehende Regelungen nicht zu beachten. Da kommen große Herausforderungen auf die Strafverfolger zu, die möglicherweise nicht zu lösen sind, ohne die Idee von Datenschutz aufzugeben.
Die gesellschaftlichen und ökologischen Auswirkungen der KI sind kein technisches Problem, das wir den wenigen Expert*innen überlassen müssen, sie gehen uns alle an. Es höchste Zeit für eine breite, fundierte Diskussion, die nicht über die sozialen Medien geführt werden sollte.