Der Suchinteresse an künstlicher Intelligenz hat sich in den letzten Jahren drastisch verändert. Von der Sorge über die Disruption von Software-as-a-Service hin zu Arbeitsplatzverlusten und nun auch dem potenziellen menschlichen Untergang, so ein strategischer Berater der Deutschen Bank.
Der CEO von Anthropic, Dario Amodei, und der CEO von OpenAI, Sam Altman, warnten beide davor, dass das schnelle Tempo der Entwicklung künstlicher Intelligenz verlangsamt werden muss, damit Sicherheitsmassnahmen Schritt halten können. Ihre Kommentare haben erhebliche öffentliche Aufmerksamkeit erhalten, auch wenn ihre Unternehmen weiterhin mit immer leistungsfähigeren Systemen fortfahren.
Amodei beschrieb seine Position in einem 3.800 Wörter umfassenden Essay, das am Samstag veröffentlicht wurde. „In den letzten Monaten bin ich überzeugt geworden, dass ein umfassendes Ansprechen der Risiken noch grössere Vorsicht erfordert – nicht nur die Investition in Risikoprävention, sondern die Regulierung des Tempo der Weiterentwicklung der Fähigkeiten, damit die Risikoprävention auf dem gleichen Niveau erhalten bleibt,“ schrieb er. „Wir müssen das Tempo, mit dem wir die Fähigkeiten der K.I.-Modelle verbessern, verlangsamen. Der Fortschritt wird noch immer schnell erscheinen, und wir müssen die gewonnenen Zeit sinnvoll nutzen.“
Altman gab kurze Zeit später sein Einverständnis dazu, und erteilte dann in einem X-Post am Montag weiteren Ausführungen zu seinen Zweifeln. Er führte zwei spezifische Fehlermuster an: zum einen den Verlust der Kontrolle über die Zukunft durch die KI selbst, was er für inakzeptabel hält; zum anderen eine extreme Machtkonzentration, bei der eine einzelne Person oder Firma ihre Weltsicht auf alle anderen durch ein überragend mächtiges System aufzwingen könnte.
"Die Vermeidung dieser beiden Bedrohungen erfordert einen schmalen Mittelweg", sagte Altman und verwies auf das Risiko, dass ein Land oder ein Labor zu viel Dominanz erlangt.
Nvidias CEO Jensen Huang hatte eine andere Ansicht, als er am Montag auf einer Konferenz nach Vorhersagen zu einem 10%igen Risiko für die Ausrottung des Menschen durch KI gefragt wurde. "All diese Vorhersagen waren falsch", sagte er.
Die Deutsche Bank-Analystin Cox machte darauf aufmerksam, dass nicht einmal die angesehensten Denker eine hervorragende Bilanz bei der Prognose von technologischen Entwicklungen und ihren Auswirkungen in der realen Welt aufweisen können. Die Interessen gehen laut Cox über das langfristige existenzielle Risiko hinaus und betreffen auch die kurzfristige Zukunft des aktuellen AI-Booms, der davon abhängt, dass der Hype sich letztlich in eine kommerzielle Realität umsetzt.
