KI kann Gutes – und Schlechtes
Dass KI missbraucht werden kann, ist nicht Neues. Ich behaupte, dass die KI einen Großteil ihrer aktuellen Popularität den Möglichkeiten verdankt, damit erschreckend realistisch wirkende Bilder zu fälschen. Und genau das wird täglich tausende Male gemacht, legal und illegal. Da hilft auch die EU-Vorschrift nichts, dass KI-Bilder markiert werden müssen. Jemanden, der z. B. mit Fake Bilder von Prominenten Geld verdient, wird diese Markierungspflicht wenig interessieren.
KI kann aber zu bei weitem für mehr verwendet werden, z. B. für IT sicherheitstechnische Prüfung und das Schreiben von Programmcode, ohne dass man selbst fundierte Kenntnisse im IT-Sicherheit oder Software Development haben muss. Und genau da liegt der erwähnte Fluch und Segen. Mittels KI kann z. B. fast jeder ein System auf Sicherheitslücken prüfen und Programme schreiben, die diese Sicherheitslücken ausnutzen könnten. Auch das Schreiben von Spam-Bots oder von ausspionierenden Apps ist mittels KI kaum aufwendiger als das Fälschen eines Bildes.
Wenn KI zur Waffe wird
Daher ist es wenig verwunderlich, dass seit Beginn des KI Booms Spam, Angriff auf Webseiten und damit verbunden z. B. Störungen bei unterschiedlichsten Internet-Diensten massiv zugenommen haben. Ganz akut durch die Presse ging hier der Fall, als Chat-GPT nicht nur für die programmiertechnische Entwicklung, sondern auch für die aggressive Steuerung einer Cyberattacke verwendet wurde.
Zwar reden sich viele KI-Anbieter damit raus, dass dies ja gegen die Nutzungsbedingungen verstoße und damit der Anwender schuld sei und nicht der Anbieter. Aber das erinnert doch sehr an die Argumentation der Waffen-Lobby, dass ja nicht die Waffen Menschen töten würden, sondern derjenige, der die Waffe verwendet. Und diese Teufelskreis-Diskussion wird z. B. in den USA seit Jahrzehnten ergebnislos geführt.
Reichen Gesetze gegen kriminelle KI-Nutzung?
Ähnlich wie bei der Bild-Markierung versucht die EU auch hier mit ihrem AI-Act steuern einzugreifen. So verpflichtet sie KI-Betreiber in Europa zu besseren Schutzmechanismen gegen Missbrauch und schreiben Entwicklern systematische Tests und Prüfungen der Sicherheit ihrer Systeme vor.
Aber mal ganz ehrlich: Wann hat eine EU-Vorgabe in einer global vernetzten Welt jemals wirklich etwas bewirkt? Wann hat sich jemand mit hoher krimineller Energie jemals von etwas abhalten lassen, weil die EU es verbietet oder Strafen androht? Ganz davon abgesehen, dass die EU gut darin ist, Vorschriften zu erlassen. Deren Durchsetzung und Ahndung bei Verstößen scheitert aber verdammt oft an mangelndem Personal, an nationalen Einschränkungen oder an Konflikten mit anderen EU-Vorgaben, z. B. dem Datenschutz.
Das Problem liegt nicht nur bei der KI
Uns als HeiReS nutzen die Cybercrime Aspekte des EU AI-Act relativ wenig. Die Zahl der bekanntwerdenden und aktiv ausgenutzten Sicherheitslücken von z. B. Content Management Systemen steigt dennoch massiv weiter. Damit einhergehen nimmt auch die Zahl der täglichen Spam-Mails massiv zu, einfach dadurch, dass Sicherheitslücken oft dazu verwendet werden, Spam-Bot Netzwerke zu vergrößern. Und schaut man sich die Quellen von aktiven Angriffsversuchen an, kommen diese meist ohnehin von außerhalb der EU.
Daher stellt sich die Frage, wie dieses Problem in den Griff zu kriegen ist. Ganz ehrlich: Ich weiß es nicht. Die KI ist da und es wird damit mittlerweile weltweit viel zu viel Geld verdient, als dass man diese Büchse der Pandora wieder schließen könnte. Aber vielleicht lässt sich die KI ja zukünftig auch mehr als „Gegenfeuer“ nutzen, um Sicherheit zu erhöhen, bevor Lücken ausgenutzt werden können.
Gute KI gegen böse KI
Es läuft also wahrscheinlich irgendwann auf einen konstanten Wettlauf „Gute KI gegen böse KI“ hinaus. Und wie so oft gewinnt die KI, der mehr Ressourcen zur Verfügung stehen. Diese Ressourcen sind Server, Speicher, Rechenpower, Bandbreite. Also am Ende dann tatsächlich Krieg der Maschinen? Schöne neue Welt … Terminator lässt grüßen!
Beitrag von HeiReS Mitarbeiter Armin Reuter – kann ggf. individuelle Meinung enthalten
