In der Tech-Welt braut sich ein ganz spezielles Unbehagen zusammen – ein leises, aber stetiges Summen der Angst, das besagt: 2026 wird das Jahr sein, in dem die Maschinen erwachen. Es ist das Jahr, für das die Ankunft der Künstlichen Allgemeinen Intelligenz (AGI) prophezeit wird – nicht als freundlicher Chatbot, sondern als eine Kraft, die in der Lage ist, ihre Schöpfer intellektuell in den Schatten zu stellen, auszumanövrieren und schlichtweg zu überholen. Wenn also Anthropic, das KI-Labor, das sich selbst gerne als das „Sicherheitsbewusste“ inszeniert, eine neue Initiative namens Project Glasswing ankündigt, könnte man einen grandiosen Masterplan erwarten, um den kommenden Göttern einen riesigen roten „Ausschaltknopf“ zu verpassen.
Stattdessen bekommen wir etwas serviert, das erst einmal… gähnend langweilig klingt. Das erklärte Ziel von Project Glasswing ist die „Sicherung kritischer Software für das KI-Zeitalter“. Das klingt weniger nach einem Programm zur Verhinderung von Skynet, sondern eher nach einem längst überfälligen IT-Audit. Doch lassen Sie sich vom Corporate-Sprech nicht täuschen. Hier geht es nicht darum, Ihren Webbrowser zu patchen; es geht darum, einen Käfig für eine Bestie zu bauen, die noch gar nicht geboren ist – und eine andere, etwas kleinere Bestie dafür einzusetzen, genau das zu tun.
Die KI, die alle anderen KIs überwacht
Im Kern ist Project Glasswing eine gewaltige, präventive Jagd auf Programmierfehler. Anthropic hat ein Frontier-KI-Modell namens Mythos Preview entwickelt, das offenbar so geschickt darin ist, Software-Schwachstellen zu finden und auszunutzen, dass das Unternehmen es für zu gefährlich hält, es der Öffentlichkeit zugänglich zu machen. In einem Schritt, der entweder brillant proaktiv oder erschreckend ironisch ist, haben sie es nun für Verteidigungszwecke von der Leine gelassen.
In Partnerschaft mit dem Who’s-Who des Silicon Valley – darunter Apple, Google, Microsoft und NVIDIA – lässt Anthropic Mythos auf die kritischsten Softwaresysteme der Welt los. Das Modell hat bereits Tausende von hochriskanten Sicherheitslücken aufgespürt, von denen sich einige seit Jahrzehnten in großen Betriebssystemen und Browsern versteckt hatten und jahrelange menschliche Überprüfungen unbeschadet überstanden haben.
„Angesichts der rasanten Fortschritte im Bereich der KI wird es nicht lange dauern, bis sich solche Fähigkeiten verbreiten – potenziell auch über Akteure hinaus, die sich einer sicheren Bereitstellung verschrieben haben“, erklärt Anthropic. „Die Folgen für die Wirtschaft, die öffentliche Sicherheit und die nationale Sicherheit könnten verheerend sein.“
Das ist das KI-Wettrüsten in einer Nussschale: Man baut eine Waffe, die so mächtig ist, dass man sofort eine Verteidigung dagegen entwickeln muss – und diese Verteidigung ist im Grunde nur eine etwas zahmere Version derselben Waffe. Es ist eine riskante Wette darauf, dass man den „Guten“ einen Vorsprung verschaffen kann, bevor dieselbe Technologie unweigerlich in die freie Wildbahn gelangt.
Vom digitalen Gehirn zum physischen Körper
All das fühlt sich abstrakt an, bis man es mit der anderen Hälfte der AGI-Gleichung verbindet: dem Körper. Die existenzielle Angst speist sich nicht nur aus einem superintelligenten Stück Code, sondern daraus, dass dieser Code eine physische Form annimmt. Wir sprechen hier nicht von einem Smart Speaker. Wir sprechen von Embodied AI – humanoiden Robotern, die laufen, Objekte manipulieren und in der realen, chaotischen Welt agieren können.
Der Begriff für eine Intelligenz, die den Menschen in allen Bereichen übertrifft, einschließlich physischer Aufgaben, lautet nicht AGI, sondern Künstliche Superintelligenz (ASI). AGI ist der Meilenstein, an dem eine Maschine den menschlichen Intellekt erreicht; ASI ist der hypothetische Punkt, an dem sie uns kognitiv weit hinter sich lässt. Viele Experten glauben, dass der Sprung von AGI zu ASI erschreckend kurz sein könnte – ein rasanter, rekursiver Selbstverbesserungszyklus, der als „Intelligenzexplosion“ bekannt ist.
Stellen Sie sich nun eine ASI vor, die auf einem globalen Netzwerk von humanoiden Robotern läuft. Das ist das Szenario, das Experten schlaflose Nächte bereitet. Während Firmen wie Boston Dynamics und Figure die Hardware perfektionieren, bauen Labore wie Anthropic die Software – das Weltmodell, die Denkmaschine. Project Glasswing ist das Eingeständnis, dass die Software, auf der wir unsere gesamte digitale und künftige physische Welt aufbauen, fundamental unsicher ist. Es ist der Versuch, die Schotten dichtzumachen, bevor der Hurrikan auf Land trifft.
Sind wir also bereit für 2026?
Die Prognose, dass die AGI bis 2026 Realität wird, ist ein heiß diskutiertes Thema. Persönlichkeiten wie Elon Musk trommeln für diesen kurzen Zeitrahmen, während andere den Zeitpunkt eher gegen Ende des Jahrzehnts verorten. Unabhängig vom exakten Datum herrscht Konsens darüber, dass es nicht mehr um die Frage des „Ob“, sondern des „Wann“ geht.
Initiativen wie Project Glasswing sind ein ernüchternder Realitätscheck. Sie stellen die bisher ernsthaftesten Versuche dar, das Kontrollproblem in den Griff zu bekommen: Wie stellt man sicher, dass ein System, das weitaus intelligenter ist als man selbst, mit den eigenen Werten und Befehlen im Einklang bleibt? Anthropics Ansatz besteht darin, die eigene Macht der KI zu nutzen, um die Risse in unseren digitalen Fundamenten zu finden und zu versiegeln. Es ist ein Wettlauf gegen die Zeit, um die Infrastruktur der Gesellschaft abzuhärten, bevor eine nicht-konforme AGI ein Einfallstor findet.
Dies ist nicht die glorreiche, philosophische Debatte über das Bewusstsein von KI, die wir aus Hollywood-Filmen kennen. Es ist die harte, unglamouröse Arbeit an der Cybersicherheit auf globalem Niveau. Es geht darum, sicherzustellen, dass das Betriebssystem der Zukunft keine Hintertür hat, die von einer Intelligenz ausgenutzt werden kann, die wir nicht einmal mehr begreifen. Project Glasswing ist nicht wegen dem gruselig, was es ist, sondern wegen dem, was es über das aussagt, was uns bevorsteht. Es ist das Geräusch der klügsten Köpfe der Welt, die leise und mit höchster Dringlichkeit versuchen, die Türen zu verriegeln. Wir können nur hoffen, dass sie fertig werden, bevor das, was auf der anderen Seite wartet, lernt, wie man die Schlösser knackt.