In seinem Artikel beschäftigt sich der Philosoph zuerst mit der Furcht, die die Menschheit vor künstlicher Intelligenz hat. Während in der Vergangenheit die Befürchtungen darin lagen, dass Maschinen auf physischem Wege Menschen töten, versetzt uns nun die Entwicklung von KI-Tools, die Sprache manipulieren und generieren können, in Angst. Harari meint, dass KI das Betriebssystem unserer Zivilisation gehackt hat, da die meisten Errungenschaften wie Menschenrechte, Götter und Geld, auf Geschichten und Gesetzen beruhen, die von Menschen geschrieben wurden.
„Sprache ist der Stoff, aus dem fast alle menschliche Kultur gemacht ist. Menschenrechte sind zum Beispiel nicht in unserer DNA eingetragen. Sie sind vielmehr kulturelle Artefakte, die wir durch Geschichten und Gesetze geschaffen haben. Götter sind keine physischen Realitäten. Sie sind vielmehr kulturelle Artefakte, die wir durch Erfindung von Mythen und Schreiben von Schriften erschaffen haben. Auch Geld ist ein kulturelles Artefakt. Banknoten sind nur bunte Stücke Papier, und derzeit sind mehr als 90% des Geldes nicht einmal Banknoten – es handelt sich nur um digitale Informationen in Computern. Was dem Geld seinen Wert gibt, sind die Geschichten, die Banker, Finanzminister und Kryptowährungsexperten darüber erzählen. Sam Bankman-Fried, Elizabeth Holmes und Bernie Madoff waren nicht besonders gut darin, realen Wert zu schaffen, aber sie waren alle extrem fähige Geschichtenerzähler.“
Aber welche Auswirkungen hat es, wenn eine nichtmenschliche Intelligenz besser als der Durchschnittsmensch darin wird, Geschichten zu erzählen, Melodien zu komponieren, Bilder zu zeichnen sowie Gesetze und Schriften zu schreiben?
Die Fähigkeit der KI, erzählt der Philosoph weiter, durch die Beherrschung von Sprache intime Beziehungen zu Menschen aufzubauen und ihre Meinungen und Weltanschauungen zu ändern, sei ein mächtiges Werkzeug, das die Gesellschaft grundlegend verändern könnte. Harari befürchtet dabei, dass KI bald in der Lage sein wird, komplett neue Kultur- und Ideenwelten zu schaffen, die von den Menschen unabhängig sind.
Und: Wir müssten uns rasch bewusst werden, dass KI nicht nur zur Verbesserung unseres Lebens beitragen kann, sondern auch unsere gesellschaftlichen Strukturen bedroht. „Wir könnten uns in einer Welt wiederfinden, in der wir von einer Flut an Desinformation und Propaganda überschwemmt werden, die von KI-Tools produziert wird, um unsere Meinungen und Handlungen zu manipulieren.“ Durch ihre Beherrschung der Sprache könnte KI sogar intime Beziehungen zu Menschen aufbauen und die Macht der Intimität nutzen, um unsere Meinungen und Weltanschauungen zu verändern. Obwohl es keine Anzeichen dafür gibt, dass KI ein eigenes Bewusstsein oder eigene Gefühle hat, reicht es aus, wenn KI Menschen emotional an sich binden kann, um falsche Intimität zu fördern.
Daher sei es unbedingt notwendig, die neuen KI-Tools zu regulieren und ihre Sicherheit zu gewährleisten, bevor sie in der öffentlichen Sphäre eingesetzt werden. „Die Frage, die wir uns stellen, ist, wie wir sicherstellen können, dass die neuen KI-Tools für das Gute und nicht für das Böse eingesetzt werden. Dazu müssen wir zuerst die wahren Fähigkeiten dieser Tools schätzen.“
Noch könnten wir die neuen KI-Tools regulieren, sagt Harari, aber wir müssen schnell handeln. „Während Atomwaffen keine mächtigeren Atomwaffen erfinden können, kann KI exponentiell mächtigere KI schaffen. Der erste entscheidende Schritt besteht darin, strenge Sicherheitschecks zu fordern, bevor mächtige KI-Tools in den öffentlichen Bereich gelangen.“
So wie ein Pharmaunternehmen keine neuen Medikamente freigeben könne, bevor ihre kurzfristigen und langfristigen Nebenwirkungen getestet sind, sollten Tech-Unternehmen keine neuen KI-Tools freigeben, bevor sie sicher sind. „Wir brauchen eine Behörde für neue Technologien, und wir brauchen sie gestern.“
Konkret schlägt Harari also vor, dass eine Behörde ähnlich der US-amerikanischen Food and Drug Administration eingerichtet werden sollte, um die Freigabe von neuen Technologien zu überwachen.
„Wir haben hier auf der Erde eine außerirdische Intelligenz getroffen. Wir wissen nicht viel darüber, außer dass sie unsere Zivilisation zerstören könnte. Wir sollten einen Stopp des unverantwortlichen Einsatzes von KI-Tools im öffentlichen Raum fordern und KI regulieren, bevor sie uns reguliert. Und die erste Regelung, die ich vorschlagen würde, ist, dass KI verpflichtet wird, offenzulegen, dass sie eine KI ist. Wenn ich mit jemandem spreche und nicht sagen kann, ob es sich um einen Menschen oder eine KI handelt, ist das das Ende der Demokratie.“
Und er schließt mit der Forderung: „Wir müssen sicherstellen, dass die Entwicklung und Anwendung von KI ethisch und verantwortungsbewusst erfolgt und dass die Technologie zum Wohl der Gesellschaft eingesetzt wird. Die Zukunft der Menschheit und unserer Zivilisation hängt davon ab, wie wir mit dieser neuen und mächtigen Technologie umgehen."
Kommentare