Anthropic hat am 4. Juni den Beitrag „When AI builds itself“ veröffentlicht. Darin um eine sehr grundsätzliche Frage: Was passiert, wenn KI zunehmend selbst an der Entwicklung neuer KI beteiligt ist?

Anthropic schreibt: „We are not there yet.“ Aber selbst wenn, die Entwicklung zeigt in diese Richtung. Nehmt nur eine Zahl aus dem Beitrag als Beispiel: Nach Angaben von Anthropic wurden im Mai 2026 mehr als 80 Prozent des Codes, der in die eigene Codebasis einfließt, von Claude geschrieben. Menschen formulieren Ziele, prüfen Ergebnisse, setzen Prioritäten. Aber das operative Tun verschiebt sich bereits deutlich.

Also müssen wir uns fragen, welche Formen von Kontrolle, Verantwortung und Abstimmung wir brauchen, wenn KI-Systeme selbst zum Beschleuniger ihrer eigenen Entwicklung werden.

Anthropic fordert deshalb, dass die Welt die Option haben sollte, Frontier-AI-Entwicklung koordiniert zu verlangsamen oder zeitweise zu pausieren — nicht als Symbolpolitik, sondern überprüfbar, international und unter Beteiligung von Forschung, Politik, Zivilgesellschaft und Unternehmen. Alle Unternehmen, alle Regierungen, von USA bis China – alle unter einem Dach? Man darf gespannt sein.

#machtsinn #ki #verantwortung