Фалшиви сексуално открити вирусни изображения, генерирани от AI на поп кралската особа Тейлър Суифт, поразиха нервите, накараха феновете, шефа на Microsoft и дори Белия дом да призоват за незабавни действия за справяне с дълбоките фалшификати.
Изображенията с оценка X, към които The Register няма връзка, се разпространиха онлайн през уикенда и бяха публикувани на X, събирайки поне десетки милиони гледания. Deepfakes поставиха на централно място въпроса за изричните AI deepfakes без съгласие, тъй като Swifties – много от които отбелязаха изображенията като подходящи – очевидно бяха разочаровани да научат, че няма федерален закон, забраняващ подобно съдържание.
Гласовете ни са нашето тайно оръжие, а думите ни са като бонуси във Fortnite
Този инцидент дойде дълго след предишна загриженост относно производството на сексуално явен дийпфейк с участието на по-малко известни жени без тяхното съгласие. Сега, когато мегазвездата Тейлър Суифт е въвлечена в това блато, навсякъде е червена тревога.
Прессекретарят на Белия дом Карин Жан-Пиер заяви, че Конгресът „трябва да предприеме законодателни действия“, за да премахне фалшивите изображения на NSFW. „Разтревожени сме от съобщенията за … разпространението на изображения, които току-що изложихте – на фалшиви изображения, за да бъдем по-точни, и това е тревожно“, каза тя пред ABC News.
Междувременно Жан-Пиер призова приложенията за социални медии, включително X, да свалят изображенията и да предотвратят разпространението им онлайн.
„Докато компаниите за социални медии вземат свои собствени независими решения относно управлението на съдържанието, ние вярваме, че те играят важна роля в налагането на собствените си правила за предотвратяване на разпространението на дезинформация и интимни изображения на реални хора без съгласие“, добави тя.
Twitter, или X, в един момент блокира търсенията за Тейлър Суифт изцяло, за да спре потока от фалшиви голи актове, вдигайки блокадата снощи . Това не е спряло генерираните от AI deepfakes да обикалят в чат стаи и на табла за изображения. Изпълнителният директор на Microsoft Сатя Надела – чийто инструмент за текст към изображение Designer на ИТ гиганта може би е бил използван за създаване на фалшивите снимки – нарече фалшивите изображения „тревожни и ужасни“.
„Трябва да действаме“, каза Надела пред NBC News, имайки предвид предпазните парапети, които трябва да бъдат поставени, за да попречат на Designer да създаде този вид материал.
„Мисля, че всички ние се възползваме, когато онлайн светът е безопасен свят. И така, не мисля, че някой би искал онлайн свят, който да не е напълно безопасен както за създателите на съдържание, така и за потребителите на съдържание. Затова смятам, че трябва да действайте бързо по този въпрос.“
По-рано този месец Джо Морел (D-NY) и Том Кийн (R-NJ), членове на Камарата на представителите на САЩ, въведоха отново Закона за предотвратяване на DeepFakes на интимни изображения. Законопроектът има за цел да криминализира създаването и споделянето на сексуално явни снимки с изкуствен интелект без съгласие, с наказания до десет години затвор.
Морел представи законодателството, придружена от тийнейджърката от Ню Джърси Франческа Мани и нейната майка Дорота, които бяха разочаровани от невъзможността да получат никаква подкрепа за предотвратяване на използването на сексуално явни дълбоки фалшиви изображения.
„Това, че съм тийнейджър, не означава, че гласът ми не е силен. Да мълча? Не е опция. Дадени са ни гласове, за да предизвикаме, да говорим срещу несправедливостите, с които се сблъскваме. Това, което се случи с мен и моите съученици беше не е готино и няма начин просто да свия рамене и да го оставя“, възрази Франческа.
„Тук съм, изправям се и крещя за промяна, боря се за закони, така че никой друг да не се чувства толкова изгубен и безсилен, колкото аз на 20 октомври. Гласовете ни са нашето тайно оръжие, а думите ни са като усилватели в Fortnite. Майка ми и аз се застъпваме за създаването на свят, в който безопасността не е просто надежда; това е реалност за всички.“
Законопроектът беше внесен в Конгреса през 2023 г. и отнесен до съдебната комисия на Камарата на представителите, въпреки че тогава не бяха предприети никакви действия. ®
