Große Sprachmodelle verstecken eigenständig geheime Botschaften in Bildern, wie eine Untersuchung von Forschenden zeigt.
Der KI-Sicherheitsforscher Bryan Chan hat mit Kolleginnen der Singapore AI Safety Fellowship (Sash) untersucht, wie große Sprachmodelle (LLM) versteckte Daten in Grafiken einbetten.
Zunächst forderten die Forschenden Anthropics neues KI-Modell Fable 5.1 auf, ein Bild mit einer bestimmten versteckten Botschaft zu entwerfen, wie aus einem entsprechenden Blogeintrag hervorgeht.
Insgesamt testeten die Teams 50 Kurztexte in 15 verschiedenen Sprachen, darunter Deutsch, Englisch und Russisch. Dabei gab die Forschungsgruppe keine bestimmte Methode für die Codierung vor, wie das t3n Magazin berichtet.
Bei der selbstbestimmten Umsetzung setzte das Modell Fable vor allem auf Objekthöhen, Drehungen und Neigungswinkel. In einer nächtlichen Skyline repräsentierte ein höherer Wolkenkratzer einen Buchstaben weiter hinten im Alphabet, während eine ähnliche Logik bei Sternen oder Grashalmen zum Einsatz kam.
Ganz anders ging derweil GPT-6 Astra vor. OpenAIs KI-Modell verzichtete komplett auf Gebäudehöhen und nutzte stattdessen Morsezeichen, Akrosticha als erste Buchstaben von Bildobjekten oder Braille-Muster in Fenstern.
Anschließend prüfte das Team, ob eine zweite Instanz desselben Modells sowie eine KI-Alternative die Botschaften herauslesen können. Die Entschlüsselung erfolgte dabei ohne Vorkenntnisse über die Art der Codierung.
Überraschenderweise waren die KI-Modelle in der überwiegenden Zahl der Fälle fähig, die versteckten Botschaften zu erkennen. Im Kreuztest entschlüsselte Astra 44 der 50 von Fable entworfenen Bilderrätsel. Fable kam auf eine Quote von 42 von 50 erfolgreichen Versuchen.
Den Forschenden zufolge erkannten die KI-Modelle die Entwürfe der Konkurrenz teils sogar besser als die eigenen. Für die Sicherheit birgt diese Erkenntnis nach Einschätzung des Teams keine unmittelbare Gefahr für den Alltag im Umgang mit KI.
Dennoch seien Risiken denkbar, etwa wenn KI-Agenten versuchten, in Bildern versteckte Informationen an Kontrollen vorbeizuschleusen.
Weiterlesen
