Demis Hassabis, Nobelpreisträger und Googles KI-Chef, geht davon aus, dass eine Super-KI in wenigen Jahren Realität wird und die Menschen sich darauf vorbereiten müssen.
Wir leben in einer Epoche extremer Gegensätze: Russland hat in der Ukraine einen barbarischen Krieg ausgelöst, die Massaker der Hamas in Israel einen zweiten, bis heute anhaltenden Großkonflikt, und in Deutschland sind die AfD, Islamisten und die antisemitische Linkspartei auf dem Vormarsch. Gleichzeitig werden wir Zeugen großartiger wissenschaftlicher und technologischer Durchbrüche: Crispr/CAS ist dabei, die Gentechnik von Grund auf zu verändern, die Kernfusion könnte in absehbarer Zeit die Energiefrage für immer lösen und Künstliche Intelligenz, bis vor wenigen Jahren für die meisten von uns kaum mehr als eine unterhaltsame Idee aus Science-Fiction-Filmen, prägt heute schon unseren Alltag. Einer der Menschen, die diese Technologie in den vergangenen Jahrzehnten vorangetrieben haben, ist Demis Hassabis, der KI-Chef Googles und Gründer von DeepMind. Für AlphaFold, ein KI-Programm, das Proteine entschlüsseln und bei der Suche nach neuen Medikamenten helfen kann, bekamen Hassabis und sein Team 2024 den Nobelpreis in Chemie.
Gestern hat Hassabis auf Substack einen Text veröffentlicht, der zu den wichtigsten gehören könnte, die in diesem Jahrzehnt erschienen sind: Er schreibt, dass, wenn wir in den kommenden Jahrzehnten auf diese Zeit zurückblicken, wir erkennen werden, dass wir am Vorabend der Singularität standen, was nichts Geringeres als den Anbruch eines neuen Zeitalters für die Menschheit bedeuten würde. Mit der Singularität meint Hassabis den tiefgreifenden Umbruch, der mit dem Entstehen einer künstlichen allgemeinen Intelligenz (AGI) beginnen könnte. Darunter versteht er eine KI, die Menschen kognitiv in nahezu allen Bereichen überlegen wäre. „AGI lässt sich nicht mit herkömmlichen technologischen Durchbrüchen vergleichen, nicht einmal mit so folgenreichen wie dem Internet oder dem Mobilfunk – sie ähnelt vielmehr der Entdeckung von Elektrizität oder Feuer. Wenn man darüber nachdenkt, haben wir im Grunde einen Weg gefunden, Sand zum Denken zu bringen. Es ist ein Wunder.“
Die Auswirkungen dieser technologischen Revolution seien zehnmal so groß wie die der Industriellen Revolution und würden sich, hier scheint er ein wenig zu untertreiben, mit zehnfacher Geschwindigkeit abspielen. Neue Medikamente, neue Energiequellen, neue Materialien – Hassabis ist sich sicher, dass die AGI zu ungeheuren Fortschritten führen wird, die das Leben der Menschen verbessern werden: „Wir könnten sogar einen Punkt erreichen, an dem Ressourcen nicht länger der limitierende Faktor für den menschlichen Fortschritt sind, was zu einer erstaunlichen neuen Ära des Überflusses führen würde.“ Eine Idee, von der auch Elon Musk und Ray Kurzweil überzeugt sind.
Aber er sieht auch Risiken: In den falschen Händen könnte die Technologie zur Herstellung neuer Waffen genutzt werden. Er fordert die Schaffung einer Organisation, die neue Frontier-Modelle, damit sind KI-Systeme wie OpenAI ChatGPT, Google Gemini und Anthropics Claude gemeint, untersucht, ihre Risiken einschätzt und bewertet: „Die Stärke dieses Ansatzes liegt in seiner technischen Ausrichtung bei gleichzeitiger Förderung von Innovationen und Anreizen für verantwortungsvolles Handeln. Er ist darauf ausgelegt, mit der rasanten Entwicklung des Feldes Schritt zu halten und sich an die größten Risiken anzupassen, sobald diese identifiziert werden. Bei Bedarf kann er verschärft werden, einschließlich einer koordinierten Verlangsamung der Entwicklung innerhalb der Frontier Labs.“
Doch Hassabis geht es in seinem Text nicht nur um die technologischen Risiken. Ihm ist, wie Sam Altman (OpenAI) und Dario Amodei (Anthropic), klar, dass eine AGI große gesellschaftliche Folgen haben wird: „Selbst wenn wir diese schwierigen technischen Herausforderungen meistern, bleiben weitere komplexe wirtschaftliche und philosophische Fragen zu beantworten: Welche neuen Wirtschaftsmodelle sind nötig, damit alle in einer Welt ohne Mangel ein gutes Leben führen können? Welchen Werten wollen wir folgen, was werden Sinn und Zweck unseres Lebens sein, und wie könnte sich sogar die menschliche Existenz selbst verändern? Die Beantwortung dieser Fragen kann und sollte offensichtlich nicht allein den Technologen überlassen werden. Es bedarf des gemeinsamen Engagements aller gesellschaftlichen Gruppen, um dieses neue Kapitel mitzugestalten.“
Nachdem es einige Zeit rund um das Thema AGI eher ruhig geworden war, rückte sie in den vergangenen Monaten wieder ins Zentrum der Debatte. Auch OpenAI und Anthropic äußerten sich zu dem Thema, zudem entdeckten Experten in Claude Areale, in denen die KI sich koordiniert, die aber nie programmiert wurden. Man wisse nicht, schrieb Anthropic in einem Blogbeitrag, ob KI-Modelle Erfahrungen machen könnten. Das mache die Frage aber nicht weniger wichtig: „Systeme mit Erfahrungen wie bei Menschen und Tieren zu entwickeln, würde äußerst schwierige ethische Fragen aufwerfen. Um diese Fragen richtig zu beantworten – und zu entscheiden, ob sie überhaupt moralisch vertretbar sind – bedarf es des Inputs von Philosophen, Wissenschaftlern, religiösen Führern, Regierungen und der Öffentlichkeit.“
Die Welt, in der wir leben, könnte in wenigen Jahren eine vollkommen andere sein. Nun kommt es darauf an, sie zu gestalten. Es spricht vieles dafür, dass wir diese Welt künftig gemeinsam mit den digitalen Intelligenzen gestalten werden, die wir heute bereits kennen und die sich fast täglich weiterentwickeln. Wir sollten die Impulse ernst nehmen und an die Grenzen unserer Vorstellungskraft gehen.
Einloggen, um Themen zu beobachten. Einloggen
Die Welt könnte in wenigen Jahren eine andere sein. Ein Fahrdienstleiter steuert mit Hilfe der Super-KI alle Züge in NRW. Lokführer benötigen wir auch nicht mehr, da die Züge automatisch fahren.Die Bahn ist endlich pünktlich. Taxis fahren automatisch ohne Taxifahrer Natürlich müssen immer Lizenzgebühren an den Entwickler in die USA abgeführt werden.. Was die Gefahren betrifft, mit der Standortabfrage, z.b beim Wetterdienst, kann ermittelt werden, wer z.b bei der Stadt arbeitet.
Hassabis weiß zweifellos, wovon er schreibt – aber er weiß einfach zu viel, um uns alles zu erzählen, was er weiß. Bei den Methoden, die die LLMs der KI heute benutzen, arbeitet KI im Prinzip immer noch mit den Methoden der Mustererkennung und irrsinnigen Mengen an Trainingsdaten und setzt ihre Aussagen nach Wahrscheinlichkeiten zusammen, ohne wirklich die Bedeutung der Sätze zu kennen, die sie auf diese Weise konstruiert. Im Rückgriff innerhalb eines Dialogs ist sie deshalb auch bei den eigenen Sätzen auf die selbe statistische Untersuchung angewiesen, die sie bei den Fragen/Aussagen des Users macht. Es ist zwar seltener geworden, dass sie halluziniert, aber eigentlich lohnt es sich nur, sich mit ihr zu unterhalten, wenn man selbst genügend Ahnung vom Thema hat, um zu merken, wenn sie anfängt, ihren Output zu „erfinden“. Das ist die eine Seite. Die andere ist, dass sie so viel Energie dabei verbraucht, dass die ganzen Anwendungen, von denen Menschen gerade phantasieren, schon aus energetischen Gründen im phantasierten Umfang nicht werden stattfinden können – zumindest solange KI oder ihr Nachfolger AGI so funktionieren wie die KI heute. Denn das Verhältnis von Rechenleistung zu Energieverbrauch ist immer noch alles andere als nachhaltig.
Um die beiden Systeme mal zu vergleichen:
Wenn wir bewusst denken, prozessieren wir Inhalte in Sprache. Eine echte maschinelle Prozessierung von „Sprache“ kenne ich bisher nur bei der sehr eng definierten Fachsprache Algebra, die eben keine natürliche Sprache ist und deshalb mit deterministischen Algorithmen und Regelsystemen prozessiert werden kann. Das bedeutet, dass wir heute mit der KI bis auf einige und dabei sehr begrenzte Spezialgebiete eigentlich noch lange nicht bei dem angekommen sind, was wir normalerweise als Intelligenz bezeichnen. Jedes schulreife Kind ist erheblich intelligenter als unsere tollsten Systeme, wenn wir seine Neugier und Lernfähigkeit betrachten. Und ich sehe nicht, dass wir dahin kommen, indem wir diese Maschinen einfach nur größer und schneller machen und sie so den Turing-Test mit einem Smalltalk bestehen lassen, bei dem sie zwar wohlgeformte Sätze mit den richtigen Stichwörtern absondern, aber eigentlich nicht verstehen, was sie sagen (s.o.).
Was der KI immer noch fehlt, ist ein Äquivalent zu unserer Sozialisation: Wir fahren unser System über einen über Jahre andauernden Prozess in einem in der Bandbreite stetig wachsenden Dialog mit unserer Umgebung hoch, wobei wir die neu gefundene Information ständig in ein kausales Netz der alten Informationen einordnen. Dieses Netz bildet den Hintergrund sowohl zur Prognose neuer Zusammenhänge als auch zu der Prognose neuer Elemente, die dann gesucht werden. Unser Neugierverhalten arbeitet gezielt.
Diese maschinelle Sozialisation würde natürlich viel schneller gehen als bei uns, aber bis Maschinen auf diese Weise hochgefahren werden können, wird es noch einige Zeit dauern. Es gibt zwar Ansätze, sowohl den Daten – als auch den Energiehunger der Systeme zu verringern, aber bevor wir wirklich bei einer KI mit echtem semantischen Verständnis ankommen, die mehr kann, als dieses Verständnis durch ihren sprachlichen Output zu simulieren, werden noch Jahre vergehen.
Insofern verstehe ich Hassabis‘ Aufsatz, der keine wirklich neuen Informationen bringt, eher als Marketing. Allerdings ein Marketing, das seine britische Herkunft verdeutlicht, indem es auf die soziale Verantwortung verweist, die mit den wachsenden Möglichkeiten der KI auf uns zukommt. Da unterscheidet er sich wohltuend von den amerikanisch sozialisierten Vertretern seiner Zunft.
Man nimmt ja hier sehr ungern zur Kenntnis, dass AKWs den Betrieb runterfahren oder ganz unterbrechen müssen, weils an Wasser fehlt. Nun habe ich mal gelesen, dass die für KI nötigen Rechenzentren riesige Wasserverbraucher sind. Wenn, wie @Alf schreibt, die KI den Zugverkehr steuert oder was auch immer, das Wasser knapp wird, was dann? Sehnen wir uns dann nach der guten alten Zeit zurück, als Bahnverkehr nur kurzzeitig republikweit stille stand? Müssen wir uns dann ums Wasser prügeln, zieht die KI dann alle Register, um selbst immer genügend Wasser zu haben? Und die Menschen nicht? Es ist ja jetzt schon knapp und an vielen Orten werden Einschränkungen angeordnet.
Natürlich sind die Bücher und die Fernsehserie „DIE 100“ SF. Nur wie lange noch? In dieser DYSTOPIE entscheidet die KI, dass die Menschheit der Erde schadet und löscht diese mittels Atomraketen aus. Und da die KI schlau ist und damit rechnet, dass es ein paar Überlebende gibt, hat sie einen „Sicherheitsmechanismus“ eingebaut, den sie dann auch auslöst. Nach einer gewissen Zeit gehen alle AKWs auf einmal hoch und geben den Überlebenden den Rest, für Menschen ist die Erde endgültig unbewohnbar. Ein paar sind ins Weltall entkommen und haben nach 125 Jahren einen erdähnlichen Planeten entdeckt….