Hunderte Menschen, darunter namhafte Persönlichkeiten aus Wissenschaft, Politik und Medien, haben sich in einem offenen Brief für ein Verbot der Weiterentwicklung künstlicher Intelligenz (KI) zu einer „Superintelligenz“, die menschliche Fähigkeiten übertrifft, ausgesprochen. Unterzeichnet wurde der Brief unter anderen vom KI-Pionier und Nobelpreisträger Geoffrey Hinton und Yoshua Bengio, ebenfalls ein KI-Pionier.
Das gestern veröffentlichte Statement, das von der KI-Sicherheitsorganisation Future of Life Institute (FLI) organisiert wurde, wurde außerdem vom Apple-Mitgründer Steve Wozniak, dem Unternehmer Richard Branson, der ehemaligen Sicherheitsberaterin der USA, Susan Rice, sowie von Prinz Harry und seiner Frau Meghan signiert. Unterstützung kam weiters von den Nobelpreisträgern und -trägerinnen Beatrice Fihn, Frank Wilczek, John C. Mather und Daron Acemoglu.
Unterzeichner: Auf wissenschaftlichen Konsens warten
In der Erklärung wird gefordert, ein Verbot so lange aufrechtzuerhalten, bis ein „breiter wissenschaftlicher Konsens“ über die „sichere und kontrollierbare“ Entwicklung von „Superintelligenz“ sowie eine „starke öffentliche Akzeptanz“ bestehen.
Der Wettlauf bei der KI-Entwicklung habe „Bedenken aufgeworfen, die von der wirtschaftlichen Obsoleszenz und Entmachtung des Menschen, dem Verlust von Freiheit, Bürgerrechten, Würde und Kontrolle bis hin zu Risiken für die nationale Sicherheit und sogar potenzieller menschlicher Auslöschung reichen“, heißt es in einer Präambel.
Tech-Unternehmen wie Meta und der ChatGPT-Entwickler OpenAI streben die Entwicklung von „Superintelligenz“ in den kommenden Jahren an. Während der UNO-Generaldebatte im September hatten Forscher und Beschäftigte aus dem KI-Sektor ebenfalls einen offenen Brief veröffentlicht, in dem sie Regierungen dazu aufforderten, bis Ende 2026 ein internationales Rahmenwerk für „rote Linien“ in Bezug auf KI zu beschließen.