KI-Nudify-Apps immer noch im App Store zu finden

> Anm. d. Redaktion: Aus Gründen des Anstands haben wir einige Suchbegriffe sowie Erwähnungen konkreter Apps (mit einer Ausnahme) in diesen Artikel nicht einbezogen. Eine vom Tech Transparency Project veröffentlichte Studie zeigt, dass es nicht schwer ist, im Apple App Store und im Google Play Store Software zu finden, mit der Fotos so bearbeitet werden können, dass „sie nackt aussehen, in pornografische Videos eingefügt oder in sexuell explizite Chatbots umgewandelt werden“. Diese Apps sind trotz entsprechender Verbote im Apple App Store erhältlich. Die Untersuchung von TTP umfasste die Verwendung von Suchbegriffen wie „nudify“, „undress“ und „AI NSFW“ und ergab, dass etwa 40 Prozent der gefundenen Apps in der Lage waren, „Frauen nackt oder spärlich bekleidet darzustellen“. TTP stellte zudem fest, dass der App Store automatisch Vorschläge vervollständigte, die zu Empfehlungen für neue Suchbegriffe zum Auffinden solcher Apps führten. Apple äußerte sich nicht zu der Studie von TTP, doch TTP berichtete, dass Apple 15 Apps entfernte, nachdem TTP seine Ergebnisse veröffentlicht hatte. Zum Zeitpunkt der Erstellung dieses Artikels lieferten die Suchbegriffe „nudify“ und „undress“ keine Ergebnisse, doch einige andere waren erfolgreich und führten zu mehreren Apps, die Outfit- oder Körpertransformationen anboten. Wir haben diese Apps nicht dahingehend überprüft, ob sie aus echten Fotos KI-Nacktversionen erstellen können. Eine der bei der Suche empfohlenen Apps war Grok, der von X entwickelte KI-Chatbot. Anfang vergangener Woche hieß es in einem Bericht, Apple habe privat damit gedroht, Grok aus dem App Store zu entfernen, da die App Deepfake-Nacktbilder generieren könne. Es ist unklar, ob die Apps, die laut TTP von Apple entfernt wurden, ebenso wie X eine vorherige Warnung erhielten. Grok ist weiterhin im App Store verfügbar. Zusätzlich zu den erfolgreichen Suchergebnissen stellte TTP fest, dass der App Store auf Suchanfragen mit Anzeigen für Nudify-Apps reagierte. Obwohl die Werberichtlinien des Apple App Stores besagen, dass „Werbeinhalte, die nicht jugendfreie oder grafisch anzügliche Inhalte bewerben“, verboten sind, stellte TTP fest, dass der App Store diese Richtlinie nicht durchgesetzt hat. Der Bericht von TTP folgt auf Meldungen von vergangener Woche, wonach zwei Apps im App Store, Ledger Live und Freecash, keine legitimen Dienste waren, sondern Betrugsversuche. Ledger Live stahl Bitcoin-Konten, während Freecash heimlich Nutzerdaten sammelte.