„Wir stehen am Vorabend der Singularität“

Demis Hassabis, Nobelpreisträger und Googles KI-Chef, geht davon aus, dass eine Super-KI in wenigen Jahren Realität wird und die Menschen sich darauf vorbereiten müssen.

Wir leben in einer Epoche extremer Gegensätze: Russland hat in der Ukraine einen barbarischen Krieg ausgelöst, die Massaker der Hamas in Israel einen zweiten, bis heute anhaltenden Großkonflikt, und in Deutschland sind die AfD, Islamisten und die antisemitische Linkspartei auf dem Vormarsch. Gleichzeitig werden wir Zeugen großartiger wissenschaftlicher und technologischer Durchbrüche: Crispr/CAS ist dabei, die Gentechnik von Grund auf zu verändern, die Kernfusion könnte in absehbarer Zeit die Energiefrage für immer lösen und Künstliche Intelligenz, bis vor wenigen Jahren für die meisten von uns kaum mehr als eine unterhaltsame Idee aus Science-Fiction-Filmen, prägt heute schon unseren Alltag. Einer der Menschen, die diese Technologie in den vergangenen Jahrzehnten vorangetrieben haben, ist Demis Hassabis, der KI-Chef Googles und Gründer von DeepMind. Für AlphaFold, ein KI-Programm, das Proteine entschlüsseln und bei der Suche nach neuen Medikamenten helfen kann, bekamen Hassabis und sein Team 2024 den Nobelpreis in Chemie.

Gestern hat Hassabis auf Substack einen Text veröffentlicht, der zu den wichtigsten gehören könnte, die in diesem Jahrzehnt erschienen sind: Er schreibt, dass, wenn wir in den kommenden Jahrzehnten auf diese Zeit zurückblicken, wir erkennen werden, dass wir am Vorabend der Singularität standen, was nichts Geringeres als den Anbruch eines neuen Zeitalters für die Menschheit bedeuten würde. Mit der Singularität meint Hassabis den tiefgreifenden Umbruch, der mit dem Entstehen einer künstlichen allgemeinen Intelligenz (AGI) beginnen könnte. Darunter versteht er eine KI, die Menschen kognitiv in nahezu allen Bereichen überlegen wäre. „AGI lässt sich nicht mit herkömmlichen technologischen Durchbrüchen vergleichen, nicht einmal mit so folgenreichen wie dem Internet oder dem Mobilfunk – sie ähnelt vielmehr der Entdeckung von Elektrizität oder Feuer. Wenn man darüber nachdenkt, haben wir im Grunde einen Weg gefunden, Sand zum Denken zu bringen. Es ist ein Wunder.“

Die Auswirkungen dieser technologischen Revolution seien zehnmal so groß wie die der Industriellen Revolution und würden sich, hier scheint er ein wenig zu untertreiben, mit zehnfacher Geschwindigkeit abspielen. Neue Medikamente, neue Energiequellen, neue Materialien – Hassabis ist sich sicher, dass die AGI zu ungeheuren Fortschritten führen wird, die das Leben der Menschen verbessern werden: „Wir könnten sogar einen Punkt erreichen, an dem Ressourcen nicht länger der limitierende Faktor für den menschlichen Fortschritt sind, was zu einer erstaunlichen neuen Ära des Überflusses führen würde.“ Eine Idee, von der auch Elon Musk und Ray Kurzweil überzeugt sind.

Aber er sieht auch Risiken: In den falschen Händen könnte die Technologie zur Herstellung neuer Waffen genutzt werden. Er fordert die Schaffung einer Organisation, die neue Frontier-Modelle, damit sind KI-Systeme wie OpenAI ChatGPT, Google Gemini und Anthropics Claude gemeint, untersucht, ihre Risiken einschätzt und bewertet: „Die Stärke dieses Ansatzes liegt in seiner technischen Ausrichtung bei gleichzeitiger Förderung von Innovationen und Anreizen für verantwortungsvolles Handeln. Er ist darauf ausgelegt, mit der rasanten Entwicklung des Feldes Schritt zu halten und sich an die größten Risiken anzupassen, sobald diese identifiziert werden. Bei Bedarf kann er verschärft werden, einschließlich einer koordinierten Verlangsamung der Entwicklung innerhalb der Frontier Labs.“

Doch Hassabis geht es in seinem Text nicht nur um die technologischen Risiken. Ihm ist, wie Sam Altman (OpenAI) und Dario Amodei (Anthropic), klar, dass eine AGI große gesellschaftliche Folgen haben wird: „Selbst wenn wir diese schwierigen technischen Herausforderungen meistern, bleiben weitere komplexe wirtschaftliche und philosophische Fragen zu beantworten: Welche neuen Wirtschaftsmodelle sind nötig, damit alle in einer Welt ohne Mangel ein gutes Leben führen können? Welchen Werten wollen wir folgen, was werden Sinn und Zweck unseres Lebens sein, und wie könnte sich sogar die menschliche Existenz selbst verändern? Die Beantwortung dieser Fragen kann und sollte offensichtlich nicht allein den Technologen überlassen werden. Es bedarf des gemeinsamen Engagements aller gesellschaftlichen Gruppen, um dieses neue Kapitel mitzugestalten.“

Nachdem es einige Zeit rund um das Thema AGI eher ruhig geworden war, rückte sie in den vergangenen Monaten wieder ins Zentrum der Debatte. Auch OpenAI und Anthropic äußerten sich zu dem Thema, zudem entdeckten Experten in Claude Areale, in denen die KI sich koordiniert, die aber nie programmiert wurden. Man wisse nicht, schrieb Anthropic in einem Blogbeitrag, ob KI-Modelle Erfahrungen machen könnten. Das mache die Frage aber nicht weniger wichtig: „Systeme mit Erfahrungen wie bei Menschen und Tieren zu entwickeln, würde äußerst schwierige ethische Fragen aufwerfen. Um diese Fragen richtig zu beantworten – und zu entscheiden, ob sie überhaupt moralisch vertretbar sind – bedarf es des Inputs von Philosophen, Wissenschaftlern, religiösen Führern, Regierungen und der Öffentlichkeit.“

Die Welt, in der wir leben, könnte in wenigen Jahren eine vollkommen andere sein. Nun kommt es darauf an, sie zu gestalten. Es spricht vieles dafür, dass wir diese Welt künftig gemeinsam mit den digitalen Intelligenzen gestalten werden, die wir heute bereits kennen und die sich fast täglich weiterentwickeln.  Wir sollten die Impulse ernst nehmen und an die Grenzen unserer Vorstellungskraft gehen.