Die Singularität der Künstlichen Intelligenz
Es gibt viele Weisen, auf die eine Zivilisation sterben kann. Die Spannendste nennt sich “KI-Singularität” und wird nicht durch zu viel Dummheit, zu viel Gewalt, zu viel Umweltverschmutzung, zu viel Liquidität auf den Aktienmärken, zu viel Erderwärmung oder ein komplett gebrochenes Herz verursacht, sondern durch zu viel Intelligenz.
Eine Singularität ist für gewöhnlich ein Punkt, der die Welt so in sich komprimiert, dass es für die Leute auf der einen Seite nicht möglich ist, zu erkennen oder vorauszusagen, was sich auf der anderen Seite tun wird. Bezogen auf die Künstliche Intelligenz meint die Singularität die Entstehung eines KI-Programms, dass so intelligent ist, dass es selbst ein besseres KI-Programm schreiben kann (also vermutlich ungefähr so intelligent wie ein fähiger KI-Forscher, der genug Zeit und Zugriff auf das nötige Wissen hat). Dadurch entsteht dann wiederum eine Intelligenz, die noch größere Intelligenz in noch kürzerer Zeit schafft, und nach wenigen, immer kürzer werdenden Generationswechseln haben wir ein System vor uns, das sich zu Menschen so verhält wie Menschen zu Ameisen. Und so wie Ameisen zwar einigermaßen gut in ihrer Welt zurechtkommen (sogar besser als wir, weil sie keine Bankenkrisen und keine gebrochenen Herzen kennen), aber keine Idee davon haben können, was die Menschheit ihnen als nächstes antut, sind wir, was die KI betrifft auf unsere sehr beschränkte Phantasie angewiesen. (Und natürlich auf das amerikanische Singularity-Institute, das diese Phantasien wacker in mahnende Publikationen umsetzt.)
Was könnte geschehen? Bei dem Science-Fiction-Autor Vernor Vinge, der sich den Singularitätsbegriff in den 1980ern ausgedacht hat, läuft es auf eine Koexistenz, ähnlich wie der zwischen Menschen und Ameisen hinaus. (Empfehlenswerte philosophisch-phantastische Lektüre: “A fire upon the deep” - hier erfahren Sie auch viel über Schwarmintelligenzen.) William Gibsons “Neuromancer” (1984) ist ohne Zweifel einer der wichtigsten Klassiker der Science Fiction, und seine Super-KI wird sich schließlich in den Tiefen des Internet verschanzen und sehnsüchtig Nachrichten mit Super-KIs auf anderen Planeten austauschen (bis sie vermutlich irgendwann am gebrochenen Herzen stirbt?).
Und in Charles Stross’ “Accelerando” (kann man nicht nur als Totes-Baum-Buch kaufen, sondern frei herunterladen) rotten sich die Super-KIs zusammen, demontieren zuerst die Erde und dann den Rest des Sonnensystems und bauen sich daraus einen gigantischen Superrechner, um an mehr Bandbreite (und damit Lebensraum) zu kommen - schlecht für uns Menschen.
Übrigens findet Wikipedia, dass das Konzept (nicht der Name) 1965 vom Statistiker I.J. Good erfunden wurde, aber aufmerksame Leser dieses Blogs kennen schon die 1962er Geschichte von Fritz Leiber…
Ich persönlich vermute, dass nicht der Umstand, dass ein System intelligent ist, eine Bedrohung darstellt, sondern die Motivation und Dynamik, mit der es gekoppelt ist. Beispielsweise werden die wesentlichen Entscheidungen und Handlungen auf unserem Planeten zumeist nicht von Individuen vollzogen, sondern von Organisationen (Unternehmen, Verbänden, Parteien). Der Erfolg und das Fortbestehen dieser Organisationen sind von ihrer Handlungssteuerung - sie sind diesbezüglich einer Evolution entworfen. Die Umgebung in der sich die Organisationen bewegen (Märkte, Gesellschaften, usw.) geben den Spielraum vor - nicht die Menschen. Die Menschen, die als Sprecher, Manager, Ingenieure, Planer dieser Organisationen auftreten, sind Instrumente der Organisation; wenn sie anders als im Sinne des besten Organisationserfolges handeln, werden sie idealerweise ausgetauscht. Es spielt deshalb gar keine große Rolle, ob das Individuum die Ziele seiner Organisation für richtig hält. Ich kenne einige Manager, Politiker und PR-Leute, die die Folgen ihres Handelns für schlecht, aber im Sinne der Dynamik des Gesamtsystems für unvermeidlich halten: wenn sie anders handelten, würden sie ausgetauscht.
Wenn Menschen nur Instrumente von Organisationen sind, dann sind die Organisationen die eigentlichen Träger der Handlungsmotivation - gigantische, aber wegen ihrer riesigen Größe und teilweisen Immaterialität oft unsichtbare psychopathische Leviathane. Und diese Dinger werden es auch sein, die massiv Künstliche Intelligenz für die Verfolgung ihrer Ziele, für Planungsprozesse, Produktentwicklung, Entscheidungsfindung benutzen werden. Das heißt, sie werden dasselbe tun wie schon jetzt: uns den Planeten unter den Füßen weggraben, um sich besser entfalten zu können, aber halt viel effektiver als zuvor.
Schlagworte: Charles Stross, Singularität, Vernor Vinge, William Gibson
17. Oktober 2008 um 05:58 Uhr
In deine Liste der Singularäts”autoren” gehört auch Frank Tipler. Ich habe nicht begriffen, warum wir im Omegapunkt wieder auferstehen sollen. Zwar verfügt der Omegapunkt über unendliche (Rechen)Kapazität, aber welchen Sinn sollte für ihn unsere Auferstehung haben? Aber bzgl. der starken KI habe ich sowieso ein Problem: Warum sollen wir diesen Prozess überhaupt vorantreiben? Reichen uns nicht eigentlich Systeme, die uns dort unterstützen, wo wir schlecht sind, z.B. beim Erstellen eines ordentlichen Wetterberichts? Diese Maschine muss nicht intelligent und schon gar nicht bewusst sein, es genügt, dass sie hinreichend schnell rechnet und über geeignete und von uns implementierte Algorithmen verfügt.
Was du im zweiten Teil beschreibst, lässt sich vielleicht auch mit dem Begriff der Emergenz beschreiben. Systeme entwickeln Eigenschaften, die man ihren Bestandteilen nicht ansehen kann. Hierhin passt sehr gut auch der abstrakte Begriff des “Kapitals” - im Gegensatz zu konkreten Organisationen. Es könnte aber in diesen Fällen (Organisationen, Kapital) auch sein, dass die beobachteten Intentionen nur Eigenschaften der gewählten Beschreibungsebene sind. Der Unterschied zu tatsächlich emergenten Systemen könnte dann darin bestehen, dass bei selbigen mindestens die untere Ebene über kein Bewusstsein verfügt (in dem Zusammenhang im Sinne von Fähigkeit zur Selbstreflektion gedacht). In den von dir angesprochenen Organisationen trifft dieses Kriterium nicht mehr zu. Hier sind bereits die Teile (die Akteure) selbst-bewusst, sie können ihr eigenes Verhalten reflektieren und so die Intentionalität der Organisation unterlaufen. Was ich damit sagen will: Es besteht Hoffnung, dass solche Organisationen ihr “Verhalten” ändern, ehe sie die Umwelt, von denen die Existenz ihrer Teile abhängt, vollständig zerstört haben, weil die “Teile” aufgrund ihres Bewusstseins die Schädlichkeit ihres Tuns erkennen.
18. Oktober 2008 um 20:12 Uhr
Frank Tiplers “Omegapunkt” ist m.E. keine klassische Post-Singularitäts-KI, sondern mehr ein Substrat, in dem wir aus einem fehlgeleiteten Versuch, christliche Heilsversprechen mit Funktionalismus zu verbinden, irgendwann als Simulakren wiederbelebt werden sollen. Kein Wunder, dass Ihnen das wenig einleuchtend vorkommt.
“Warum sollen wir diesen Prozess überhaupt vorantreiben?”
Warum sollten wir versuchen, den Ursprung des Universums zu verstehen? Warum sollten wir uns verlieben? Warum Kunst machen? Warum sollten wir morgens aufstehen? — Alles sinnlos.
Aber ich muss das tun. Es gibt einfach keine spanndere Frage, als die, wie der Geist funktioniert. Und eine KI (also ein detailliertes, analytisches und testbares Modell unseres Verständnisses) zu bauen ist der beste, vermutlich sogar der einzige Weg, das herauszufinden.
“Es besteht Hoffnung, dass solche Organisationen ihr “Verhalten” ändern, ehe sie die Umwelt, von denen die Existenz ihrer Teile abhängt, vollständig zerstört haben, weil die “Teile” aufgrund ihres Bewusstseins die Schädlichkeit ihres Tuns erkennen.”
Die Teile erkennen das meistens schon lange. Ich glaube aber nicht, dass das eine Rolle spielt, solange die Änderung nicht auf der Ebene der Organisationen stattfindet. Und die Evolution der Organisationen hat den Einfluß der Individuen stark zurückgeschnitten (denk’ an die Regierungsbeteiligung der Grünen im Bund oder in Hamburg). Und die Organisationen sind bisher nicht auf Systemstabilität, sondern nur auf lokalen Erfolg selektiert.
Wenn einzelne Krebszellen verstehen, dass der Tumor sich selbst die Grundlage entzieht, dann nützt das nichts. Und wenn sie sich selbst in normale Körperzellen zurückverwandeln könnten, dann würden sie den Wirt nicht retten, sondern lediglich von ihren malignen Nachbarn plattgemacht werden. Krebs kann nicht durch eine Evolution zwischen verschiedenen Tumor-Arten geheilt werden, sondern nur durch ein Immunsystem, und dafür hat die Evolution der Organisationen bisher nicht sorgen können.