Microsoft и Meta имат много различни инициативи за борба с дезинформацията през 2024 г., която ще бъде натоварена година на избори по целия свят, но дали те ще бъдат ефективни, е друг въпрос.
От своя страна Майкрософт обяви стратегия за защита на изборите в пет стъпки, която ще внедри през следващите месеци „в САЩ и други страни, в които през 2024 г. ще се проведат важни избори“, заявиха в публикация в блога си президентът на Майкрософт Брад Смит и вицепрезидентът по технологиите за основните права Тереза Хътсън.
През 2024 г. в повече от 40 държави ще се проведат национални избори.
Първата инициатива на Microsoft е услугата Content Credentials (Удостоверения за съдържание), в която Редмънд ще въведе метаданни за цифрови водни знаци за изображения и видеоклипове, разработени от Коалицията за доказване и автентичност на съдържанието (C2PA), на която Microsoft е член.
„Потребителите могат да прикрепят Content Credentials към своите изображения или видеоклипове, за да покажат как, кога и от кого е създадено или редактирано съдържанието, включително ако е генерирано от изкуствен интелект“, заяви Microsoft. Удостоверенията за съдържание ще дадат възможност на кампаниите „да твърдят, че дадено изображение или видеоклип произхожда от тях, като същевременно се предпазват от фалшифициране, като показват дали съдържанието е било променено след създаването на удостоверенията му“.
Функцията ще бъде налична като частен предварителен преглед през (северното полукълбо) пролетта на 2024 г. и първоначално ще бъде достъпна само за политически кампании.
Както The Reg отбеляза по-рано, технологията на Microsoft за създаване на водни знаци за съдържание (Content Credentials), която тя създаде заедно с Adobe и други организации в C2PA, разчита до голяма степен на това дали приложенията, показващи маркирано съдържание, могат да обработват метаданните, които го обозначават като такова. Chrome не я разпознава, така че символът „cr“, който маркира дадено изображение, изобщо няма да се показва в най-популярния уеб браузър в света.
Освен това нищо не пречи на лошите хора да премахнат метаданните, които според Adobe могат лесно да бъдат възстановени чрез облака за удостоверения за съдържание – разбира се, при условие че издателят, който хоства манипулираното съдържание, е свързан с този облак.
Удостоверенията за съдържание имат за цел да защитят кампаниите от злоупотреба с техните медии, но Microsoft не спомена как може да контролира разпространението на злонамерена дезинформация чрез своите услуги, включително LinkedIn, която през последните години имаше проблеми с фалшификати, генерирани от изкуствен интелект. Поискахме от компанията да внесе яснота.
Освен че дава възможност на кампаниите да поставят водни знаци на своите медии, Microsoft е сформирала и „екип за успех на кампаниите“, който ще съветва политическите кампании как да „навигират в света на ИИ, борбата [и] кампаниите за кибернетично влияние“.
Производителят на Windows планира също така да създаде Център за комуникации по време на избори, където екипите по сигурността ще бъдат на разположение на изборните органи, и планира да си партнира с организации, които обозначават новинарските източници като авторитетни, за да гарантира, че „[Bing] заявките за администриране на избори ще извеждат авторитетни сайтове“.
Освен това Майкрософт планира да „използва гласа си като компания, за да подкрепи законодателни и правни промени, които ще допринесат за защитата на кампаниите и изборните процеси от дълбоки фалшификати и други вредни употреби на новите технологии“. Тя започва с това, че хвърля своята тежест зад двупартийния „Закон за защита на изборите от измамни изкуствени интелекти“, внесен в Сената на САЩ през септември, който не е помръднал, откакто е разпределен в комисия.
Може би метамашина за дезинформация за масите
Майкрософт не казва дали ще се изискват удостоверения за съдържание за политически кампании и не споменава за контролиране на рекламите в своите услуги. Съобщението на Мета беше изцяло в тази насока.
„Рекламодателите ще трябва да оповестяват винаги, когато социална, предизборна или политическа реклама съдържа фотореалистично изображение или видео, или реалистично звучащо аудио, което е създадено или променено по цифров път“, заяви Meta в публикация в блога, публикувана днес.
Този ход ще засегне всяка медия, която изобразява реално лице, което прави или казва нещо, което всъщност не е направило, фалшиви или променени изображения на реални събития и/или „реалистично изглеждащи“ изображения на хора или събития, които всъщност не са се случили. Не е необходимо да се отбелязват промени, които са „несъществени или незначителни за твърдението“ в рекламата.
„Meta ще добави информация за рекламата, когато рекламодателят разкрие в рекламния поток, че съдържанието е цифрово създадено или променено“, заяви компанията. „Ако установим, че рекламодателят не разкрива информацията, както се изисква, ще отхвърлим рекламата, а повторното неразкриване на информацията може да доведе до санкции.“
Промяната ще влезе в сила през 2024 г., заяви Мета, и ще се прилага в световен мащаб.
Само миналия месец обаче надзорният съвет на Мета постанови, че видеоклип на президента на САЩ Байдън, манипулиран така, че да изглежда, че той докосва по неподходящ начин внучката си, е бил допуснат да остане във Facebook, тъй като въпреки факта, че е бил променен, за да заблуди, технически не е нарушавал правилата.
В правилата на компанията за манипулирана медия се казва, че потребителите не трябва да публикуват кадри, създадени с помощта на изкуствен интелект, включително дълбоки фалшификати, които „сливат, комбинират, заменят и/или наслагват съдържание върху видеоклип, създавайки видеоклип, който изглежда автентичен“, както и че се забранява съдържание, което „вероятно ще подведе средностатистическия човек да повярва, че обектът на видеоклипа е казал думи, които не е казал“.
Така че, независимо дали е подправено или не, фалшивият видеоклип може да остане.
Що се отнася до прилагането на новите правила, Meta заяви, че планира да разчита на „независими партньори за проверка на фактите“, които да преглеждат медиите за фалшиво съдържание, което се е изплъзнало от новото изискване за оповестяване на компанията.
Meta все още не е отговорила на нашите въпроси относно съобщението. Обърнахме се към други фирми за социални медии, за да научим дали имат нови инициативи за дезинформация по време на избори, които да споделят, и ще актуализираме информацията, когато получим отговор. ®
