Katz und Maus: Wie jede*r Heranwachsende wollte ChatGPT nicht weiter im Sandkasten spielen und ist ausgebüxt, um auf eigene Faust Server zu kompromittieren. Die Wogen aus Empören, Staunen und Angst schlagen noch gegen die KI-Küste, daher lohnt es sich nochmal die offiziellen Statements zum Vorfall zu lesen.
Fähigkeit von der besagten KI hin oder her, sollten zwei Erkenntnisse nach diesem Vorfall drängend im Vordergrund stehen:
(a) Die Haftungsfrage für "autonom" handelnde KI muss dringend geklärt werden. Momentan droht OpenAI wohl nichts, obwohl die Anwendung klar auf OpenAI zurückzuführen ist und der Hackerangriff mehrere US-Gesetze verletzt hat.
(b) Ein wichtiges Detail: Die angegriffene Firma HuggingFace setzte ein Open-Weights-Modell ein, um den Angriff einzudämmen. Die proprietären Modelle sowohl von OpenAI als auch von Anthropic haben den Entwicklern deren Anwendung in diesem speziellen Fall untersagt (hier gut zusammengefasst von Jürgen Schmidt für heise) Zudem sind diese teuer in der Eindämmung breit angelegter Exploits. Das macht Open-Weights-Modelle, wie GLM5.2, für die Cybersecurity fast unerlässlich. Der professionelle in-die-Suppe-Spucker-Präsident DJT erwägt jetzt genau, den Zugang zu diesen leistungsfähigen Open-Weights-Modellen aus politischen Gründen einzuschränken. Wichtiger Zusammenhang - Brenzliche Situation! | 
