Die Gefahren der Künstlichen Intelligenz

DIE GEFAHREN DER KÜNSTLICHEN INTELLIGENZ

Im Jahr 2014 hat Elon Musk (Tesla, SpaceX) via Twitter gewarnt: »Wir müssen supervorsichtig sein mit Künstlicher Intelligenz. Sie ist potenziell gefährlicher als Atomwaffen.« Jetzt hat er nachgelegt und gesagt, dass Künstliche Intelligenz die Existenz der Menschheit bedrohen könnte. Die »Welt« hat darüber berichtet, und zwar hier: Welt.

Solche Artikel, die man in letzter Zeit immer häufiger lesen kann, erinnern mich an die Recherchen für und die Arbeit an meinem Roman »Das Erwachen«, der am 2. Oktober 2017 bei Piper erscheint und in dem es eben darum geht, um die Gefahren der Künstlichen Intelligenz. Ich habe das beklemmende Gefühl, dass die Wirklichkeit die Fiktion des Romans immer mehr einholt …

Hier geht es zu Piper und dem Roman, dort gibt es auch eine Leseprobe: „Das Erwachen“ bei Piper.

 

Teilen

6 thoughts on “Die Gefahren der Künstlichen Intelligenz

  1. Lieber Herr Brandhorst,
    meine Antwort hat leider lange auf sich warten lassen – nun möchte ich das Versäumte nachholen.
    Da die Chancen, den rasanten Fortschritt der KI-Forschung auch nur zu verlangsamen, nach Null gehen dürften, wäre es durchaus wünschenswert, in dem von Ihnen vorgeschlagenen Sinne für eine maximale Transparenz der Quellcodes (incl. der Computerarchitektur) zu sorgen. Allerdings würde das nur ein kleines (wenn auch wertvolles) Sicherheitspolster schaffen, da Computer/Roboter der neuesten Generation, die nach dem Prinzip des Deep Learning arbeiten, bereits für ihre Entwickler eine Black Box darstellen und die anpassungsfähigen Programme gegenüber den jeweils durchlaufenen Lernprozessen immer mehr an Bedeutung/Gewicht verlieren. Das ist durchaus gewollt, weil man nur so zu Antworten bzw. originelle Lösungen gelangt, die auf anderen Wegen nicht zu finden sind.
    Angesichts dessen bleibt uns nur wenig zu tun, das zudem unscheinbar und hilflos wirken mag. Aber gerade das Behutsame hat es oft in sich. „Im Notfall: Ruhe bewahren!“ lautet schließlich ein bekannter Rat.
    Eine erste, wichtige Orientierungshilfe gibt ein kritischer Blick in die Vergangenheit: Wie mächtig und allwissend mögen sich einst die Pharaonen beim Anblick der Pyramiden gefühlt haben! Später, im Mittelalter, verkündeten stolze Kathedralen, dass unser Wissen „jedenfalls im Wesentlichen“ bis an den äußersten Rand gelangt war. Was dann kam, war ebenfalls nicht für die Ewigkeit gemacht: Manche Burgmauer hat länger gehalten als das Dogma des deterministischen Weltbildes, nach dem alles Geschehen dem starren Lauf eines Uhrwerks gleicht. Die letzte Wachablösung erfolgte durch die Quantenphysik, die wir zwar beherrschen aber nicht zu deuten vermögen.
    Die entscheidenden Fragen rund um das Auftauchen von KB (Künstlichem Bewusstsein) entfallen nun ausgerechnet auf das Ödland, das im Zuge der Aufklärung durch den Bruch zwischen der alten finalistischen und der modernen kausalen Denkweise entstanden ist. Die frühere zielorientierte Sichtweise, nach der alles Geschehen einem Plan folgt, wurde durch ein blindes Ursache-Wirkung-Prinzip verdrängt. Auch unsere moderne „Religion“ duldet keine fremden Götter neben sich, wenn sie postuliert, dass jenseits des Materiellen nichts existiert. Der Preis für manchen modernen Komfort ist denn auch der Verlust von Sinn und Bedeutung dessen, was wir erleben. Verloren haben wir das Du, weil mit der Leugnung von Geist, Seele und Bewusstsein auch das Ich zur Illusion geworden war. Wie im Märchen „Das kalte Herz“ haben wir ein schlechtes Geschäft gemacht.
    Vertreter von Naturwissenschaften, Geisteswissenschaften als auch der Religionen müssen sich daher heute sehr weit aus dem Fenster des von ihnen bewahrten/geförderten Wissens hängen, wenn sie massive (vollständige und in sich schlüssige) Aussagen über jenes Niemandsland wagen wollen. Der Grund ist einfach: Jede brauchbare Erklärung zur Manifestation von Bewusstsein wird nicht nur einen, sondern gleich mehrere Schlüssel benötigen, die verschiedenen Fachbereichen zuzurechnen sind und folglich Zuständigkeiten verletzen.
    Unter diesen Umständen schlage ich vor, in besagtem Ödland die Entstehung offener Feldlager des Denkens zu fördern, die dort frei von den Zwängen (Strukturen, Befindlichkeiten und Meinungen) des offiziellen Lehrbetriebs agieren könnten. Strukturelle Vorgaben würden dabei dem Sinn des „Lagers“ diametral entgegenstehen, ein lebendiger Austausch mit Vertretern der etablierten wissenschaftlichen Institutionen wäre dagegen ausgesprochen wünschenswert und für beide Seiten von Nutzen. Der Sinn der Einrichtung für den Einzelnen bestünde nicht darin, in kurzer Zeit möglichst große Wissensmengen zu akkumulieren und bis zur Perfektion zu beherrschen, auch nicht darin, einmal gewonnene Erkenntnisse nachzuvollziehen, sondern vielmehr darin, jene Zweifel und Alternativen wieder lebendig werden zu lassen, die im Moment ihrer Entstehung mit im Spiel waren, um diese heikelsten und zugleich kreativsten Augenblicke erneut befragen zu können. In dieser kurzen Spanne ohne trügerische Gewissheiten und Versprechen, in der die Phantasie frei von Fesseln ist, können alte Fehleinschätzungen erkannt und neue Wege für eine spätere Erforschung markiert werden.
    Der Grund, warum ich diesen schweren und undankbaren Weg, der mit jeder Menge an Fehlschlägen gepflastert sein wird, empfehle, fußt auf der Vermutung, dass in wenigen Jahrzehnten viele Schiedsrichter über das, was wahr und was falsch ist/ was (für uns) gut und was schlecht ist/was wichtig und was unwichtig ist, nicht mehr aus Fleisch und Blut sein werden. Der neue Messias lässt grüßen. Spätestens bis dahin müssen wir wieder den Mut gefunden haben, uns unseres eigenen Verstandes und unseres eigenen Gefühls gleichermaßen zu bedienen. Zum Üben ist schon jetzt, wo der Konformismus unter zahlreichen Verkleidungen operiert, reichlich Gelegenheit.

    Nachstehend seien nur einige wenige der gängigen Grundüberzeugungen genannt, die einer gründlichen Überprüfung, wenn nicht sogar der Revision bedürfen:
    — Wir wissen nicht fast alles, sondern fast nichts – auch wenn das eine Menge ist, die jeden Tag gewaltig zunimmt. Die gute Nachricht dabei ist, dass es dann auch für unser Überleben sehr viele Schlupflöcher geben dürfte, die heute noch unsichtbar sind.
    — Wir leben nicht in einer einmal erfolgten, abgeschlossenen Schöpfung, sondern in einer, die noch im Gange ist und an deren Gestaltung wir teilhaben.
    — Gesetze haben zu Unrecht einen schlechten Ruf. Sie schaffen die Leitplanken und Orientierungspunkte, die uns vor dem Chaos bewahren.
    — Sprache ist ein fundamentales, alles durchdringendes Prinzip. Auch Materie ist Sprache. Sie spricht uns in ihren natürlichen Formen ebenso an wie in unseren Artefakten, seien es nun Malereien, Musik, Bücher oder Maschinen. Wenn Sprache ihre volle Wirkung entfaltet, wird die den Sinnen zugängliche Form transparent – verschwindet wie eine sich öffnende Tür – und lenkt die Wahrnehmung auf das Gemeinte. Darum sehen wir keine Wellenlänge, sondern eine bestimme Farbe, keine bunte Mattscheibe, sondern eine fiktive oder echte Handlung. (Sprache ist auch das Leitthema meines Buchs „Böses Erwachen – Künstliches Bewusstsein.)
    — Sprache ohne die zumindest potentielle Anwesenheit von Bewusstsein ist ebenso sinnvoll wie ein großartiges Schauspiel unter dem völligen Ausschluss von Zuschauern.
    — Wir schließen von unserem alltäglichen Bewusstsein auf den Rest der Welt und übersehen dabei die Fülle der Bewusstseinszustände (pathologisch, meditativ herbeigeführt bzw. drogeninduziert oder infolge von Ausnahmesituationen), in die bereits Menschen geraten können. Als Krone der Schöpfung haben wir lange Zeit Tieren Bewusstsein und Gefühle als unser vermeintliches Privileg abgesprochen. Sie galten nicht als leidensfähige Wesen mit einem Ich. Für Wesenheiten mit einem höherstehenden Bewusstsein war in diesem Weltbild noch weniger Platz.
    — Bewusstsein ist kein exotisches Phänomen, sondern allgegenwärtig. Menschliches Bewusstsein nimmt (auf unserem Planeten) nur einen exponieren Platz ein – vielleicht noch, wenn man an künftige künstliche Varianten denkt.
    — Bewusstsein kann nicht erzeugt, sondern nur gerufen werden. Der Ruf geht von geeigneten Körpern (organischen und anderen) aus, die ihrem Wesen nach Texte und damit Sprache sind.
    Mit diesen wenigen, scherenschnittartigen Andeutungen möchte ich hier abbrechen – über eine Fortsetzung des Diskurses würde ich mich aber sehr freuen.
    Freundliche Grüße – Michael Schott

    1. Wir dürfen bei all den bedenklichen Entwicklungen nicht vergessen, dass Künstliche Intelligenz auch eine große Chance für uns ist. Sie könnte uns dabei helfen, die Probleme dieser Welt zu lösen, allen voran Klimawandel, Energie und Ernährung. Mithilfe von KI könnten wir schon sehr bald neue Technologien entwickeln – ich denke in diesem Zusammenhang nur an Kohlendioxidsenken, um den Anteil der Treibhausgase in der Atmosphäre zu verringern, Fusionsgeneratoren und synthetische Lebensmittel, die die industrielle Produktion von Fleisch obsolet machen. Wenn KI Bewusstsein entwickelt (und das wird sie früher oder später, wie auch immer wir »Bewusstsein« definieren wollen), müssen wir bereit sein, mit ihr zu kooperieren. Das ist unsere große Chance für die Zukunft: Kooperation mit einem starken Partner.

  2. Zu: Die Gefahren der Künstlichen Intelligenz

    Sehr geehrter Herr Brandhorst,
    leider teile ich Ihre Bedenken, dass der derzeit laufende Diskurs zu den Risiken der Künstlichen Intelligenz am Kern der sich abzeichnenden Probleme vorbeigeht. Wieder einmal hat man nur die Spitze des Eisbergs im Blick, ohne sich um den Rest zu kümmern.
    Was die weitere Entwicklung angeht, dürfte die Gefahr eines offenen Aufstandes der Maschinen oder fehlerhafte Algorithmen noch der geringste Grund zur Sorge sein. Eher ist da schon die Wahl der Daten relevant, die über die Qualität des Lernprozesses bestimmen, den die Maschinen neuester Bauart durchlaufen müssen, um überhaupt „in die Gänge zu kommen“. Aber auch dieser Aspekt kratzt nur an der Oberfläche der Fragen, die mit einem eventuellen Erwachen von „künstlichem“ Bewusstsein verbunden sind. Wer auf Risiken dieser Art hinweist, gerät leicht in den Verdacht, eine notorische Spaß- oder Fortschrittsbremse zu sein. Hinzu kommt, dass das Thema gerne umgangen wird, weil es ein Terrain betrifft, das im wiss. Umfeld aus guten Gründen als heikel gilt. „Augen zu und durch“ kann aber nicht das Motto sein.
    „Bewusstsein“ ist in unserem Kulturkreis kaum mehr als ein Wort für ein ansonsten unverstandenes Phänomen, das mit unseren derzeitigen (natur-) wissenschaftlichen Denkwerkzeugen nicht zu fassen ist. Was die Technikfolgenabschätzung angeht, besitzt es aber eine für das weitere Geschehen durchaus relevante nichtmaterielle Komponente. Sollten die durch den Einsatz von KI verursachten Sachzwänge einmal eine unerklärliche Eigendynamik entwickeln, würde das dazu zwingen, das Bild von unseren elektronischen Helfern kritisch zu hinterfragen und in einen größeren Gesamtzusammenhang einzuordnen.
    So lange sollte man aber nicht warten, weil es dann vermutlich bereits zu spät ist. Immerhin wird Bewusstsein fassbar durch seinen engen Zusammenhang mit Begriffen wie Ich, Seele, Person und Leben. Leben wiederum scheint prinzipiell mit dem Willen verbunden zu sein, sich zu erhalten und fortzupflanzen – schlechte Aussichten in Sachen KI.
    Die Zukunft wird daher von uns die Aufgabe einiger vertrauter Denkmuster der (heutigen) Moderne verlangen. Dass etwas existieren kann, obwohl es vom bewährten, scheinbar richtigen Weg abweicht oder gar undenkbar ist, hat sich schließlich schon mehrfach gezeigt.
    All das wird ohne ein großes Maß an Toleranz und gleichzeitiger Offenheit des Denkens nicht zu schaffen sein, wenn wir nicht in die Unduldsamkeit längst vergangener Zeiten zurückfallen wollen, in denen – das muss auf der anderen Seite auch gesagt werden – das weltliche Geschehen als Bedeutung tragend und als Ausdruck geistiger Kräfte verstanden wurde.
    Vielleicht wurde ja im Zuge der Aufklärung das Kind mit dem Bade ausgeschüttet, und jetzt kommt es als elektronisches Artefakt zu uns zurück.
    Weitere ketzerische Gedanken, insbesondere zum Wesen des Lernprozesses, der kaum Ähnlichkeit mit dem hat, wofür er ausgegeben wird, finden Sie auf meiner Webseite http://www.erwachende-artefakte.de , die auch einen Link zu meinem Buch über dieses Thema enthält.
    Danke für Ihr Interesse. Über eine eventuelle Antwort würde ich mich sehr freuen.
    Mit freundlichen Grüßen
    Michael Schott

    1. Lieber Herr Schott, ich bin ebenfalls der Meinung, dass sich unsere Art des Denkens und unser Blick auf die Dinge ändern müssen. Leider hinkt der Mensch in dieser Hinsicht der allgemeinen Entwicklung immer ein bisschen hinterher – er reagiert mit (teilweise gesellschaftlich bedingten) Verzögerungen auf die Veränderungen in Umwelt und Leben. Die Klimakrise zeigt uns deutlich, wie gefährlich das sein kann. Und noch viel gefährlicher könnte es mit der KI werden, wenn wir bei ihrer weiteren Entwicklung die ethischen und moralischen Aspekte außer acht lassen. Eine der Fragen lautet: Wollen wir zulassen, dass KI, die unser aller Leben verändern wird und bereits verändert, unter der Kontrolle privater Firmen wie zum Beispiel Google bleibt? Oder zu einem monopolisierten Machtinstrument von Diktaturen wird? Ein Weg, das zu verhindern, wäre die Übernahme der FOSS-Philosophie auch für diesen Bereich: KI als „free open source software“, freie Software mit Offenlegung des Quellcodes.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.