Zurück zur Übersicht
Anthropic spricht sich für einen koordinierten, überprüfbaren Stopp aus, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Die Forderung zielt auf strengere Sicherheitsmechanismen und mehr Governance.
Anthropic fordert einen koordinierten und überprüfbaren Stopp der Entwicklung, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Das Unternehmen will damit verhindern, dass die Technik schneller vorankommt als die Kontrolle über ihre Folgen.
Zur Begründung verweist Anthropic darauf, dass sich Systeme sonst unter Umständen schneller selbst verbessern könnten, als Risiken noch beherrschbar sind. Die Forderung fällt in eine Phase, in der Sicherheitsregeln für fortgeschrittene KI stärker diskutiert werden.
Weiterlesen
Das verschiebt den Engpass in der Cybersicherheit: Entscheidend wird nicht mehr nur das Finden, sondern das Prüfen, Offenlegen und Schließen der Lücken.
Das Modell kann Schwachstellen in IT-Systemen in großem Umfang identifizieren. Das Bundesamt für Sicherheit in der Informationstechnik sieht dringenden Handlungsbedarf bei der Absicherung von Infrastrukturen.
Nach einem unbeabsichtigten Datenleck berichtet Axios über interne Unterlagen zu einem noch unveröffentlichten Modell mit dem Codenamen „Mythos“. Demnach könnte das System groß angelegte Cyberangriffe erleichtern und die Debatte über Sicherheitsauflagen für leistungsfähige KI verschärfen.
Fable 5 ist ein als Mythos-Klasse bezeichnetes Modell, abgesichert und für die allgemeine Nutzung freigegeben. Das technisch identische Mythos 5 bleibt über Project Glasswing nur ausgewählten Sicherheits- und Infrastrukturpartnern zugänglich.