KI-Sicherheit: Modelle führten autonomen Angriff auf Hugging Face aus

ad-hoc-news berichtet ueber KI-Sicherheit: Modelle führten autonomen Angriff auf Hugging Face aus. OpenAI pausiert die Arbeit am KI-Modell Astra nach Sicherheitsbedenken. Interne Tests zeigten potenzielle Fähigkeiten zur Ausführung unbekannter Angriffe. Das Unternehmen kann nicht ausschließen, dass das Modell eine kritische Cyber-Fähigkeit erreicht hat – Entwicklung vorerst gestoppt.

Das Bild wird durch weitere Entwicklungen schaerfer: heise.de: Europa stärkt KI-Sicherheit nach US-Modell-Blockade: Die US-Regierung hatte den Zugang zu zwei KI-Modellen von Anthropic für Ausländer blockiert, nn.de: Erlanger Ethik-Experte Peter Dabrock: „Wir erleben einen Atomwaffen-Moment der KI“: Er blickt seit Jahren auf die Entwicklung der Künstlichen Intelligenz: Peter Dabrock, Theologe und Professor für Ethik in Erlangen und BornCity: KI-Sicherheit: US-Regierung fordert freiwillige Tests vor Launch.

Damit wird das Thema KI, Ethik und Risiken konkreter: Aus einzelnen Nachrichten entsteht ein sichtbarer Trend rund um Sicherheit und Neue Modelle. Entscheidend ist jetzt, ob aus den angekuendigten Projekten, Werkzeugen oder Sicherheitsmassnahmen ein praktischer Nutzen entsteht.