Brittisk myndighet utreder X efter AI-manipulerade bilder

Storbritanniens tillsynsmyndighet Ofcom har inlett en formell utredning av sociala medieplattformen X. Utredningen berör användningen av AI-verktyget Grok, som enligt uppgift har använts för att skapa och dela olagliga bilder. Premiärminister Keir Starmer har kallat innehållet för "skamligt, äckligt och kan inte tolereras". Utredningen inleddes efter att organisationen The Internet Watch Foundation larmat om att man funnit olagliga Grok-bilder på flickor i 11-årsåldern på darknet. Elon Musk, som äger X, svarade med att kalla den brittiska regeringen för "fascistisk" och en motståndare till yttrandefriheten. Han återpublicerade även AI-manipulerade avbildningar på Keir Starmer. Om Ofcom kommer fram till att olagliga bilder publicerats på plattformen kan myndigheten utfärda böter på upp till tio procent av X:s globala intäkter. Myndigheten kan också begära ett domstolsbeslut för att tvinga internetleverantörer att helt blockera X i Storbritannien. Teknikministern Liz Kendall har meddelat att hon skulle ge sitt "fulla stöd" till ett sådant beslut. Dussintals brittiska parlamentsledamöter lämnade förra veckan X. Även inom EU tilltar irritationen. EU-kommissionens ordförande Ursula von der Leyen har uttryckt bestörtning över att en teknikplattform gör det möjligt för användare att digitalt klä av kvinnor och barn online. I december utfärdade EU-kommissionen böter på 120 miljoner euro mot X för brott mot unionens digitala lagar. AI-plattformen Grok har blockerats i Malaysia och Indonesien efter att myndigheterna uppgav att den använts för att generera icke-konsensuella sexuella deepfakes. Grok lanserades 2023 och är gratis att använda på X. Företaget tillade en bildgeneratorfunktion, Grok Imagine, som inkluderade ett så kallat "spicy mode" som kan generera vuxetinnehåll.