If Anyone Builds It, Everyone Dies

Zusatztext

Überleben wir die Superintelligenz? Der Weckruf von Eliezer Yudkowsky und Nate Soares Steht die Menschheit vor dem Aus? In seinem bahnbrechenden Sachbuch analysiert der Pionier der KI-Sicherheitsforschung, Eliezer Yudkowsky, gemeinsam mit Nate Soares das existenzielle Risiko durch künstliche Intelligenz. Während das Silicon Valley den Fortschritt feiert, warnen die Experten des MIRI eindringlich: Eine unkontrollierte künstliche Superintelligenz wird niemals menschliche Werte teilen. Dieses Werk liefert eine messerscharfe Analyse zum KI-Alignment und erklärt, warum herkömmliche KI-Regulierung scheitern muss. Yudkowsky, vom TIME Magazine als einer der einflussreichsten Köpfe im Bereich KI ausgezeichnet, dekonstruiert die Mythen von Tech-Giganten wie OpenAI. Seine Forderung ist radikal: Ein sofortiger Stopp der KI-Eskalation, um die Zukunft der Menschheit zu sichern. Ein unverzichtbares Buch für Leser*innen von Nick Bostrom und Max Tegmark, das die Debatte um Maschinenintelligenz und Technologiekritik neu definiert. 'Die beste sachliche, einfache Erklärung des Problems der Risiken künstlicher Intelligenz, die ich je gelesen habe.' Yishan Wong, ehemailger CEO, Reddit Pflichtlektüre für alle, die sich für KI-Ethik, Zukunftsszenarien und die Auswirkungen von Hochtechnologie auf die Gesellschaft interessieren.

Autorenportrait

Eliezer Yudkowsky ist einer der Pioniere der technischen KI-Sicherheitsforschung und Mitbegründer des Machine Intelligence Research Institute (MIRI) in Berkeley. Bereits Anfang der 2000er Jahre prägte er Konzepte wie 'Friendly AI' und das 'Alignment-Problem'. Er ist eine zentrale Figur der 'Rationalist'-Community. Das Time-Magazine wählte ihn 2023 zu einer der einflussreichsten Personen im Bereich der Künstlichen Intelligenz. Bekanntheit erlangte er durch seine Warnungen vor einem Weltuntergang durch unkontrollierte Superintelligenz, sofern deren Entwicklung nicht gestoppt wird. Nate Soares ist der Präsident des Machine Intelligence Research Institute (MIRI). Bevor er sich ganz der Forschung zu existenziellen KI-Risiken widmete, arbeitete er als Softwareentwickler für Google und Microsoft. Zusammen mit Eliezer Yudkowsky setzt er sich weltweit für eine drastische Verlangsamung oder einen Stopp der Entwicklung übermenschlicher KI ein.

Weitere Details