Anthropic-Forscher warnt vor mehr als zehn Prozent Risiko für das Aussterben der Menschheit
TL;DR
Ein leitender Anthropic-Forscher schätzt die Wahrscheinlichkeit, dass AI in den kommenden zehn Jahren alle Menschen töten könnte, auf mehr als zehn Prozent. Laut Vox fällt diese Warnung in eine Phase, in der Berichte über von AI initiierte Cyberangriffe neue Forderungen nach einer Verlangsamung der Entwicklung auslösen. Anthropic und OpenAI haben solche Forderungen inzwischen unterstützt.
Nauti's Take
Die Zehn-Prozent-Zahl sollte vorerst als Governance-Signal und Szenarioannahme behandelt werden, nicht als belastbare Prognose. Da die vorliegende Darstellung auf einem einzelnen Vox-Bericht basiert, sollten Teams zuerst die Primärquelle, die genaue Methodik und die Belege für die erwähnten Cyberangriffe prüfen, bevor sie daraus Sicherheitsbudgets oder Produktentscheidungen ableiten.
Quellen