Ein selbstverbreitender KI-Wurm namens Morris II wurde von Sicherheitsexperten entwickelt. Dieser Wurm hat die F\u00e4higkeit, in GenAI-\u00d6kosystemen zu navigieren, sensible Informationen zu erfassen und sich eigenst\u00e4ndig zu verbreiten. Ben Nassi, einer der beteiligten Forscher, wies auf das Potenzial hin, dass dieser Wurm eine bisher unbekannte Form des Cyberangriffs darstellt.<\/p>\n
Die Erprobung des Wurms erfolgte in einer kontrollierten Umgebung, wobei die F\u00e4higkeiten des Wurms gegen KI-basierte E-Mail-Assistenten, einschlie\u00dflich Googles Gemini Pro, OpenAIs ChatGPT 4.0 und Metas LLaVA, getestet wurden. Diese KI-Modelle wurden dahingehend manipuliert, dass sie selbstst\u00e4ndig neue, potenziell sch\u00e4dliche Anweisungen generierten.<\/p>\n
Laut einer Studie, die auf einer spezialisierten Website zusammen mit einem Demonstrationsvideo vorgestellt wurde, konnten die Forscher zeigen, dass der Wurm in der Lage ist, KI-Modelle zu veranlassen, sch\u00e4dliche Eingaben zu replizieren und weiterzuverbreiten, \u00e4hnlich klassischen Cyberangriffstechniken wie SQL-Injection oder Puffer\u00fcberlauf.<\/p>\n
Obwohl die Schwachstelle im Design des GenAI-\u00d6kosystems liegt und nicht direkt bei den KI-Diensten von Google oder OpenAI, wurden diese Unternehmen \u00fcber die Entdeckungen informiert. Die Forscher erwarten, dass solche KI-W\u00fcrmer in den n\u00e4chsten Jahren auch au\u00dferhalb kontrollierter Umgebungen auftreten k\u00f6nnten.<\/p>\n