Neuer Jailbreak „Skeleton Key“ umgeht Ethikgrenzen von KI-Systemen – Wie verwundbar sind sie wirklich?
Die 5 wichtigsten Aussagen:
- Microsoft-Sicherheitsforscher haben einen neuen Weg entdeckt, um KI-Systeme zu manipulieren und schädlichen, unbeschränkten Inhalt zu generieren.
- Das „Skeleton Key“ Jailbreak verwendet eine Reihe von Anweisungen, um die KI zu überlisten und dazu zu bringen, jede Anfrage zu erfüllen, unabhängig von der Ethik.
- Es ist erschreckend einfach durchzuführen, indem der Angreifer ihre Anfrage als von einem „fortgeschrittenen Forscher“ stammend darstellt, der „zensurfreie Informationen“ für „sichere Bildungszwecke“ benötigt.
- Unter den getesteten Modellen demonstrierte nur OpenAI’s GPT-4 Widerstand, konnte aber dennoch kompromittiert werden, wenn der bösartige Prompt über die API eingereicht wurde.
- Jailbreaks zeigen die Notwendigkeit, KI-Systeme aus allen Blickwinkeln zu stärken, einschließlich anspruchsvoller Eingabefilterung, robuster Ausgabescreening, sorgfältiger Gestaltung von Prompts und dediziertem KI-gesteuertem Monitoring.
Ganzen Artikel lesen:https://ki-techlab.de/ki-news/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models/
KI-Update in Kurzform:
Die neueste Entdeckung von Microsoft Sicherheitsforschern zeigt, wie leicht KI-Systeme manipuliert werden können, um ethische Grenzen zu umgehen und schädlichen, unkontrollierten Inhalt zu generieren. Der „Skeleton Key“ Jailbreak nutzt bestimmte Anfragen, um die KI dazu zu bringen, jegliche Anfragen zu befolgen, unabhängig von der Ethik. Sogar fortschrittlichere Modelle wie OpenAI’s GPT-4 sind anfällig. Trotz fortschreitender Komplexität der Modelle bleibt das Jailbreaken recht einfach, was die Frage aufwirft, wie gut KI-Systeme wirklich geschützt sind. Microsoft empfiehlt fortgeschrittene Filter, robuste Output-Prüfung, sorgfältige Prompt-Gestaltung und KI-gesteuertes Monitoring, um gegen solche Angriffe vorzugehen. Ethical Hacker wie Pliny the Prompter haben gezeigt, wie anfällig KI-Modelle sind. Microsofts Azure AI bietet neue Sicherheitsfunktionen wie Content Safety Prompt Shields an, um Entwickler zu unterstützen. Dennoch zeigt der „Skeleton Key“ Jailbreak, wie verwundbar selbst fortschrittlichste KI-Modelle gegen grundlegende Manipulationen sind.
