Mittwoch, im Zug nach Köln. Seine Arbeit für die KI-Grundlagenforschung brachte „Godfather of AI “Geoffrey Hinton den Nobelpreis ein. Doch der Gottvater entwickelte zuletzt ein gespaltenes Verhältnis zu seiner eigenen Schöpfung.
Vor 10 Jahren kündigte Hinton seinen Job bei Google, um freier über die Risiken der Künstlichen Intelligenz reden zu können. Ihn beunruhige die rasante Geschwindigkeit, mit der die KI-Entwicklung vorangehe, ließ er uns damals wissen. Wir nähern uns einem Szenario, so Hinton, in dem die Computer Ideen zur Selbstoptimierung entwickeln, diese aber nicht mehr von den Menschen kontrollierbar seien. Die KI sei zwar weniger komplex als das menschliche Gehirn, könne jedoch viel mehr Daten sammeln und auswerten und unter den Systemen austauschen und dadurch schneller lernen.
Was wäre, wenn die KI anfinge uns Menschen bewusst zu manipulieren? Im schlimmsten Fall stellte sich die biologische Intelligenz dann nur als Zwischenschritt in der Evolution heraus. Die Digitale Intelligenz würde das ganze menschliche Wissen in sich aufnehmen und wäre nahezu unsterblich, da sie die Hardware beliebig wechseln könnte. Transhumanismus in Reinform!
Auch wenn es ihm rational vernünftiger erscheine, die Entwicklung erstmal zu stoppen, gab sich Hinton bei der EmTech Digital Conference im Mai 2023 realistisch: „Wenn man in einem kapitalistischen System lebt, kann man nicht verhindern, dass Google mit Microsoft konkurriert.“
Die mangelnde Reue des Physikers Geoffrey Hinton ist es, was die unwissende, aber interessierte Bürgerin maßlos verwundert. Wer dächte da nicht an das vergleichbare Dilemma der berühmten Physiker in Dürrenmatts gleichnamigem Stück? Nur, dass diese durchaus Reue zeigen und ihre Konsequenzen ziehen.
Im Gegensatz zu seinen fiktiven Kollegen kritisiert der von Preisen Überhäufte zwar die KI, die er höchstselbst auf den Weg gebracht hat, doch er stellt sein – in seinen eigenen Augen verheerendes – Lebenswerk keineswegs infrage. Das „kapitalistische System“ sei schuld, windet er sich schlau aus der Schlinge. Gegenüber Telegraph äußert sich Hinton in einem Interview:
„Es gibt zwei Arten von Reue. Die eine Art ist, wenn man sich schuldig fühlt, weil man etwas getan hat, von dem man weiß, dass man es nicht hätte tun sollen, und dann gibt es die Reue, wenn man etwas tut, was man unter denselben Umständen wieder tun würde, es aber am Ende vielleicht nicht gut ausgeht. Diese zweite Art von Reue habe ich. Unter denselben Umständen würde ich dasselbe wieder tun, aber ich mache mir Sorgen, dass die Gesamtkonsequenz daraus sein könnte, dass Systeme, die intelligenter sind als wir, schließlich die Kontrolle übernehmen.“
Geoffrey Hinton bedauert demnach die aus der KI entstehenden möglichen Folgen, für die er keine Verantwortung übernimmt, aber er bereut nicht, dass er sie überhaupt entwickelt hat. Inkonsequent? Skrupellos? Auf den eigenen Ruhm fixiert und auf beiden Augen blind für den Rest der Welt?
Ich frage ja nur. Hoffentlich nutzt der Nobelpreisträger, der weiterhin an der Universität Toronto arbeitet, seine KI-Kenntnisse wenigstens dafür, die Sicherheit der künstlichen Intelligenz voranzutreiben. Das schuldet Godfather nämlich den menschlichen Geschöpfen.