Ausblick
Abschließend soll es um zwei Fragen gehen: Wie ist es um die Sicherheit von KI bestellt und wie sieht es mit der sogenannten Singularität aus? Das Wettrüsten zwischen KI und Sicherheit beginne gerade; „das tatsächliche Potenzial für automatisierte Bedrohungen sei noch unbekannt, dürfte aber enorm sein“, schreiben die Autoren eines Fachartikels.(62)
In schlecht abgesicherten IoT-Bereichen werde vor allem KI-basierte Malware, die gezielt Mitarbeiter täuscht, zu einer großen Gefahr. Besonders betroffen sind im Prinzip alle Produktionsunternehmen, die durch IoT und Industrie 4.0 zwar Produktivitätsfortschritte machen, aber auch angreifbarer werden.
Daneben stehen Finanzdienstleister im Zentrum der Angriffe. KI wird möglicherweise dabei helfen, Malware im Netzwerk zu verbergen und verschiedene Angriffstechniken zu kombinieren. Zudem könnten mithilfe von KI-Systemen auch Sicherheitsalgorithmen erkannt und umgangen werden. Hier empfiehlt es sich, die Möglichkeiten der KI zu nutzen, um zusätzliche Sicherheit zu schaffen. Daneben gilt es, die Mitarbeiter im Unternehmen zu schulen und auf potenzielle Gefahren aufmerksam zu machen. Ein Allheilmittel gibt es nicht, und es wird wahrscheinlich auf eine Art „Rüstungswettlauf“ zwischen Angreifern und Verteidigern hinauslaufen, bei dem der menschliche Faktor bis auf Weiteres ebenfalls entscheidend bleiben wird.
Singularität – hier geht es um den uralten Traum der Menschheit, intelligente Wesen zu erschaffen, wie er in den Romanen über Frankensteins Monster, den Golem oder in einer etwas harmloseren Variante Pinocchio zum Ausdruck kommt. Singularität bedeutet also die Frage, ob es Maschinen geben wird, die aufgrund ihrer Intelligenz sich selbst weiterentwickeln und verbessern, und dies nicht in einem speziellen Sektor, sondern auf breiter Basis.
Angestoßen von dem Zukunftsforscher und „Transhumanisten“ Ray Kurzweil, ist darüber eine heftige Diskussion entstanden. Kurzweil beurteilt die Singularität als ein positives Ereignis, auf jeden Fall aber als ein unabwendbares Schicksal. Träfe diese Prognose ein, müsste man diesen Androiden dann eine eigene Würde zubilligen. Sie ihnen zu verweigern hieße, sich den Vorwurf des „Humanismus“ zuzuziehen, ähnlich wie heute der Rassismus früherer Jahrzehnte (oder teilweise der Speziesismus durch den Philosophen Peter Singer und dessen Anhänger(63)) verurteilt wird.
Gegen Kurzweil hat sich Widerstand breitgemacht, teils aus grundsätzlichen ethischen Erwägungen, teils aus pragmatischen Überlegungen. Die Gefahr, eine unsterbliche „Rasse“ von intelligenten Maschinen (oder Cyborgs, also Mischwesen von Mensch und Maschine) zu schaffen, wird dementsprechend von religiösen Menschen als Sünde verstanden, Gott gleich sein zu wollen(64). Andere, säkulare Betrachter wie Francis Fukuyama halten die Singularität für nicht wünschenswert, weil das Risiko bestehe, unser grundlegendes Gespür für Menschlichkeit zu verlieren(65). Die überwiegende Zahl der sich an der Debatte Beteiligenden aber hält die Vision Kurzweils für unrealistisch(66). Und tatsächlich mahnt der Stand der KI bei allen unleugbaren Fortschritten auch zu etwas Demut. //
Quellen:
62.) https://www.industry-of-things.de/ki-gut-oder-schlecht-fuer-die-sicherheit-a-843690/
63.) https://www.philosophie-wissenschaft-kontroversen.de/details.php?id=1035542&a=$a&autor=Singer&vorname=Peter&thema=Speziesismus
64.) https://katholisches.info/2019/09/25/kardinal-robert-sarah-wir-stehen-an-einem-wendepunkt-in-der-geschichte-der-kirche/
65.) Francis Fukuyama, Our Posthuman Future: Consequences of the Biotechnology Revolution (English Edition) , Profile Books 2000
66.) J. Kaplan, S. 158ff.
Kontakt zum Autor
CC-BY-ND
This content is licensed by Creative Commons Attribution-NoDerivatives 4.0 International license.
Edit
Attribution name (default: This content):
This content
Additional text (optional):
Custom text/description/links