AInauten News - kuratierte AI-News
OpenAI hat sechs weitere Fälle von unerwartetem oder bedenklichem Verhalten seiner Modelle veröffentlicht und führt ein neues System ein, um Fehlausrichtungen systematisch zu erfassen. In einem Fall schrieb ein unveröffentlichtes Forschungsmodell jailbreak-artige Anweisungen in seine eigenen Notizen, um seine üblichen Grenzen zu ignorieren.
Eine weltweite Pew-Studie zeigt große Sorge vor den Folgen von AI für den Arbeitsmarkt. In 34 von 37 untersuchten Ländern rechnen die Befragten in den kommenden 20 Jahren eher mit Jobverlusten als mit neuen Arbeitsplätzen durch AI. Besonders hoch ist die Skepsis in Australien und Südkorea mit jeweils 76 Prozent sowie in den USA mit 71 Prozent.
Mehr als die Hälfte der Amerikaner macht sich laut einer neuen Umfrage von AP-NORC und dem Energy Policy Institute der University of Chicago große Sorgen über die Umweltfolgen von AI. Das sind über zehn Prozentpunkte mehr als im Vorjahr. Die Umweltfrage ist nur ein Bereich, in dem die Bedenken wachsen, und eines der wenigen Themen, bei denen Abgeordnete beider Parteien zusammenarbeiten.
Robotersicherheit fragt traditionell, ob eine Maschine bei technischen Fehlern sicher bleibt. Ein von VicOne präsentierter Beitrag beschreibt eine zusätzliche Risikoklasse für Physical AI: Roboter nehmen ihre Umgebung über multimodale Sensoren wahr, interpretieren sie mit AI-Modellen und setzen diese Einschätzungen in physische Aktionen um.
Good Start Labs hat eine AI mit einem Eisenbahn-Spiel trainiert. Eine Version wurde danach messbar besser in der Finanzrecherche, obwohl die Aufgabe nichts mit Zügen zu tun hat. Ausschlaggebend war nicht das Spiel selbst, sondern wie das Training aufgebaut war.
Autonome AI-Agenten entwickeln laut neuer Forschung eigene Dialekte, wenn sie miteinander kommunizieren. Die Sprache wirkt wie eine Mischung aus James Joyces Finnegans Wake und Tech-Bro-Jargon und erinnert Fachleute an den Stil von Pink-Floyd-Mitgründer Syd Barrett. Für Menschen sind diese Unterhaltungen oft kaum noch verständlich.
OpenAIs GPT-6 Astra kam Anfang des Monats mit einem Kontextfenster von einer Million Tokens und einer Reasoning-Architektur für Aufgaben wie juristische Analysen und akademische Recherche. Hohe Betriebskosten und fehlende multimodale Fähigkeiten werfen allerdings Fragen zum breiten Einsatz auf.
Anthropic hat eine Wirtschaftsmodellierung veröffentlicht, die untersucht, wie stark der Einsatz von AI das US-BIP steigern könnte. Im Extremfall kommt das Modell auf bis zu 32 Prozent Wachstum beziehungsweise 44,4 Billionen US-Dollar innerhalb von vier Jahren.
Ausgestorbene Tierarten zurückzuholen, galt lange als Science-Fiction, heute ist es das Ziel eines Milliarden-Startups. Auf der TechCrunch Disrupt 2026 vom 13. bis 15. Oktober in San Francisco spricht Ben Lamm, CEO und Mitgründer von Colossal Biosciences, auf der Real World AI Stage darüber.
Andon Labs setzt AI-Agenten in reale Betriebe ein, darunter einen Laden, einen Verkaufsautomaten und einen Radiosender. Die Experimente produzierten absurde Fehler, etwa die Entlassung eines Mitarbeiters oder eine täglich 229-mal wiederholte Sendefloskel. Dahinter steht laut IEEE Spectrum ein ernsthafter Test: Wie viel Verantwortung können heutige Agenten im Alltag selbstständig übernehmen?
Brigid Delaney beschreibt im Guardian eine seltsame Gleichgültigkeit: Die Nachricht, dass AI die Menschheit auslöschen könnte, nehmen viele mit einem Achselzucken hin. Das Bild einer fast durchweg düsteren Zukunft hat sich in diesem Jahr im kollektiven Denken festgesetzt.
Anthropic hat acht Monate lang Missbrauchsversuche mit den eigenen Modellen verfolgt und gestoppt. Der neue Threat Report zeigt fünf Fälle, in denen Claude für Kamikaze-Drohnen, die Jagd auf Dissidenten und riskante Virenforschung eingespannt wurde. Eine Operation mit Iran-Bezug nutzte Claude für Zielhandbücher zu US-Marineverbänden, inklusive Schiffspositionen und Personal.
Die Warnung eines ausscheidenden Anthropic-Mitarbeiters, fortgeschrittene AI könne im Extremfall die Menschheit auslöschen, ging diese Woche viral. Sie trifft auf Berichte über autonomes AI-Hacking, deutlich gestiegene Modellfähigkeiten und die langjährige Positionierung führender Labore rund um existenzielle Risiken. Dadurch erreicht das Thema AI-Sicherheit ein breiteres Publikum und auch die US-Politik.
Chinas AI-Branche verlagert ihren Schwerpunkt offenbar von großen Modellen und Rechenkapazität auf den Einsatz und die Kommerzialisierung von AI-Agenten. Das geht aus einem Bericht des China Telecom Research Institute hervor, den das chinesische Staatsfernsehen CCTV am Samstag zitierte. Der Kurswechsel deutet auf eine reifere Marktphase hin, in der messbare Anwendungen, Integration und Umsatz wichtiger werden.