дом блог страница 45

Какво означава уволнението на Сам Олтман за бъдещето на OpenAI

0

Отстраняването на Олтман показва, че организацията, която е предназначена да съгласува свръхинтелигентния ИИ с човечеството, не успява да съгласува ценностите дори на собствените си членове на борда и ръководството. Добавянето на компонент, целящ печалба, към проекта с нестопанска цел го превърна в мощна организация за ИИ. Пускането на пазара на продукти трябваше да осигури не само печалби, но и възможности да се научи как по-добре да се контролира и развива полезен ИИ. Сега не е ясно дали сегашното ръководство смята, че това може да се направи, без да се наруши първоначалното обещание на проекта да създаде безопасно AGI.

Мурати е изправен пред предизвикателството да убеди служителите и поддръжниците на OpenAI, че все още има работеща философия за разработване на ИИ. Тя трябва също така да задоволи глада на компанията за парични средства, за да управлява обширната инфраструктура, която стои зад проекти като ChatGPT. По времето, когато е бил уволнен, Алтман е търсил милиарди нови инвестиции в кръг на финансиране, който ще бъде ръководен от Thrive Capital. Компанията несъмнено е по-малко привлекателна за спонсорите, отколкото беше само преди 24 часа (главният изпълнителен директор на Thrive, Джошуа Кушнер, не отговори на имейл).

Освен това всеки, чиято табелка с името на главен изпълнителен директор включва етикета „временен“, ще се сблъска с допълнителни пречки във всичко, което прави. Колкото по-скоро OpenAI назначи постоянен лидер, толкова по-добре.

Да започнем отначало

Който и да се окаже новият лидер на OpenAI, изглежда, че той ще наследи екип, раздиран от това дали е на страната на настоящите лидери, Суцкевер и Мурати, или на напусналите шефове, Олтман и Брокман. Един от тримата изследователи, за които се съобщава, че са напуснали заради пуча, е директорът на изследователския отдел Якуб Пахоцки, съизобретател на GPT-4 –изключително важна загуба, и можем да очакваме, че ще последват още.

Сега OpenAI може да се окаже в много неизгодно положение в ожесточената надпревара за таланти в областта на изкуствения интелект. Най-добрите изследователи са осигурени с многомилионни пакети, но за най-запалените парите са второстепенно съображение спрямо въпроса как да бъде разработен и внедрен по-мощен ИИ. Ако OpenAI се възприема като място, изпълнено с дворцови интриги, които отвличат вниманието от решението как най-добре да се създаде и разпространи най-значимото изобретение на човечеството, най-големите таланти няма да искат да се ангажират. Вместо това елитните изследователи могат да се обърнат към Anthropic, разработчик на изкуствен интелект, започнат от бивши служители на OpenAI през 2021 г. – или може би към който и да е нов проект, започнат от Алтман и Брокман.

Досегашната траектория на Алтман беше класическо пътуване на героя в смисъла на Джоузеф Кембъл. От момента, в който го срещнах за пръв път, когато дойде в офиса на Newsweek през 2007 г. като главен изпълнителен директор на стартъп на име Loopt, той излъчваше изгаряща страст към решаването на най-големите технологични предизвикателства, а също и поразителна лична скромност. Когато го придружавах в Лондон тази година по време на вихрената му обиколка, за да популяризира „човекоположителния“ изкуствен интелект – и същевременно да препоръча той да бъде регулиран, за да се предотвратят катастрофи – видях го да се обръща към тълпи, да позира за селфита и дори да ангажира няколко протестиращи, за да изслуша техните проблеми. Но също така усетих, че задачата е стресираща, вероятно предизвикваща едно от периодичните му мигренозни главоболия, подобно на това, което той пребори, когато свидетелстваше пред Сената.

Само миналата седмица изглеждаше, че Олтман се е справил с огромните предизвикателства, които идваха с новата му власт и известност. По време на Деня на разработчика на OpenAI на 6 ноември той беше уверен и старателно репетираше, докато представяше редица нови продукти, претендирайки за най-високото място в техносферата: шоумен, който разкрива умопомрачителни постижения в стила на Стив Джобс. Изглеждаше, че Олтман най-накрая се чувства у дома си в светлината на прожекторите. Но след това светлините угаснаха. Сам Алтман ще трябва да създаде AGI някъде другаде. OpenAI може би все още е в играта – но само след като събере парчетата.

VMware разкри плана за интегриране на Symantec SASE, преди Broadcom да завърши закупуването му

0

Две седмици след очакваното приключване на придобиването на VMware от Broadcom нито една от страните все още не е обяснила какво задържа сделката, нито е уточнила кога може да приключи. Но по време на събитието VMware Explore, което се проведе миналата седмица в Барселона, VMware предложи тийзър за това как може да се интегрират продуктите на двете компании.

Тази закачка се появи под формата на съобщение, че софтуерно дефинираната WAN технология на VMware ще се интегрира с Enterprise Cloud на Symantec. Symantec беше придобита от Broadcom през 2019 г. и е част от бизнес подразделението Broadcom Software, което ще бъде преименувано на VMware, ако сделката между Broadcom и Virzilla отпадне.

VMware обявява тази интеграция (която на друго място описва като „първоначална интеграция“) за вероятна, за да ускори приемането на услугата за сигурен достъп до границата – известна още като SASE, термин, въведен от анализаторската фирма Gartner, за да опише множество технологии за сигурност, предоставяни последователно като услуга в множество и/или хибридни мрежи.

След като Gartner дефинира този термин, доставчиците, включително VMware, побързаха да обединят продуктите си в пакети под формата на SASE.

Корпоративният облак на Symantec включва инструменти за предотвратяване на загуба на данни, както и защита от заплахи за идентифициране и намаляване на атаките.

Интегрираното предложение, което VMware планира, ще включва данни, които излизат от една от нейните точки на присъствие SD-WAN и след това се насочват към Enterprise Cloud на Symantec. По този начин, пише VMware, ще се осигури „гъвкавост на управлението за налагане на достъп до интернет по устройство, потребител, приложение и местоположение; откриване и блокиране на зловреден софтуер, скрит в криптирания трафик, като се прилага разузнаване на заплахите в реално време, оценка на нивото на риска, задълбочена проверка на файловете и пясъчни кутии; и блокиране на заплахите с иновативната технология за изолиране на мрежата на Symantec“.

Всичко това е трудно да не се хареса.

Някои от тези функции обаче вече са възможни с портфолиото на VMware, макар и не съвсем по същия SaaS начин, който предлага Symantec.

Това може да подхрани спекулациите, че VMware планира да изхвърли някои от своите по-малко значими продукти, като например гамата за сигурност Carbon Black, която се припокрива значително със Symantec.

Но тъй като сделката все още не е сключена, а Broadcom не е официално начело, не се знае какво ще последва.

Главният изпълнителен директор на Broadcom Хок Тан се появи за кратко на VMware Explore миналата седмица и отново заяви плановете си да увеличи разходите за научноизследователска и развойна дейност, да инвестира повече в екосистемата на VMware и да направи продуктите на Virtzilla по-лесни за използване.

Но той не предложи повече подробности за това как напредва сделката.

The Register прочете разкази на служители на VMware за това, че са им били предложени трудови договори с Broadcom, понякога при условия, които значително се различават от условията на работата им във Virtzilla. Други чакат – с тревога и нарастващ гняв – да научат за плановете на Broadcom. ®

Жена в затвора, след като убиецът на RentaHitman.com се оказа – изненада – ФБР

0

34-годишна жена е вкарана в затвора за 18 месеца, след като се е опитала да използва сайта Rentahitman.com – не, наистина – за да плати на наемен убиец да ликвидира съперник, с когото е била в конфликт. Нейният бъдещ наемен убиец изненадващо се оказал агент на ФБР.

Зандра Елис от Ню Орлиънс по-рано се призна за виновна за предаване на заплашителни съобщения в междущатската търговия и беше осъдена от американски окръжен съдия на 31 октомври. След като изтърпи наказанието си в затвора, Елис ще прекара още три години под наблюдение и ще плати задължителна специална такса от 100 долара.

И се надяваме, че тя ще стои далеч от всички уебсайтове, които претендират да предоставят услуги за убийство под наем.

Според съдебните документи на 3 юни миналата година Елис е подала заявка чрез гореспоменатия точков сайт, използвайки псевдонима „Жасмин Браун“.

Елис въвела и истинския си имейл адрес, който все пак показвал, че принадлежи на Зандра Елис, а не на Жасмин Браун, заедно с истинския си телефонен номер и физически адрес. В частта от формуляра, в която се пита: „опишете какви услуги желаете да бъдат извършени“, тя посочила, че иска да убие жена, идентифицирана като „BH“.

„Бих искала тя да е мъртва, тъй като се опитва да ме убие“, пише Елис, известна още като Браун, според съдебните документи[PDF]. Тя предоставила също така телефонния номер, адреса и информацията за профила на „BH“ в Instagram.

Въпреки това Rentahitman.com не е бил истински сайт за наемни убийци, а е просто добре конструирана пародия. Бележка към бъдещите престъпници: откровено незаконни дейности рядко се предлагат в публичния интернет; дори в тъмната мрежа неща като наемни убийци обикновено са и федерални служители под прикритие.

Доткомът дори твърдеше и все още твърди, че е „100% съвместим с HIPPA (Закон за поверителност и защита на информацията за наемните убийци от 1964 г.)“. Според прокуратурата декларацията за поверителност на уебсайта очевидно в един момент е свързвала директно и с Центъра за оплаквания от престъпления в интернет на ФБР. Хуморът изглежда е бил изгубен за Елис.

В момента сайтът гласи: „Временно преустановяваме дейността си“ с големи червени букви, което може да помогне на други настроени към убийства нетизени хора да избегнат подобна съдба. Може би?

След като получава заявка за убийство под наем от Елис, уебмастърът на дот-ком-а, идентифициран в съдебните документи като „РИ“, пита Елис дали иска безплатна консултация с оперативен работник на терен. Тя се съгласила. РИ също така попитал защо в имейл адреса ѝ е посочено, че се казва Зандра Елис, а не Жасмин Браун.

Според прокурорите Елис е отговорила: „Аз не съм: „Не исках истинското ми име да бъде публикувано, в случай че това не е истинско или ако се върне към мен, или за да не отида в затвора за това, че съм искала да направя нещо подобно. Просто не исках това да се стовари върху мен.“

Малко след това РИ задействала големите оръжия, като уведомила Националния оперативен център за заплахи на ФБР, че Елис се опитва да наеме наемен убиец, който да извърши истинско убийство.

На 5 юли агент на ФБР под прикритие се обажда на Елис. Той казал на Елис, че името му е „Ейс“, и я попитал дали е готова да „направи този ход“. Елис му казала, че това зависи от цената.

Двамата се договорили за 1000 долара за удара, като Елис платил 100 долара предварително, след което се договорили да се срещнат в „Вафли хаус“ в Ню Орлиънс, за да може Елис да направи първоначалната вноска.

Тайна среща … в Waffle House

На 6 юли Елис се появява в ресторанта с малкото си дете в количка и заема място на щанда до Ейс, който носи записващо устройство.

Според съдебните документи Елис казала на агента под прикритие, че е „враждувала с BH в социалните мрежи, защото двете жени имат деца от един и същ мъж, който не е идентифициран по име. Елис твърдяла, че ако някой иска да убие нея и нероденото ѝ дете, то той трябва да си отиде“.

Тя също така казала на човека под прикритие, че истинското ѝ име е Зандра Елис, потвърдила, че иска да убие БХ, платила му 100 долара за убийството и се съгласила да плати останалата сума на вноски от 250 долара на всеки две седмици.

Агентът попитал Елис „дали има нещо, с което да се предпази“, на което тя уж погледнала раницата си и му казала „когато ме видиш с това, винаги съм с колан“.

Елис била окована с белезници, докато напускала Waffle House, и по време на ареста й притежавала пистолет Ruger с бойни патрони. ®

Техническият директор на SUSE говори за OpenELA и запазването на доверието на клиентите

0

Интервю SUSE се отнася сериозно към Linux в предприятията, дотолкова, че ветеранът в областта на пингвините е готов да рискува да си навлече гнева на Red Hat с OpenELA и да предложи поддръжка на CentOS за потребителите, които просто не могат да се откажат от операционната система, която скоро ще бъде изчерпана.

Въпреки усилията на компанията да покаже актуализациите, направени за Rancher, създаването на Open Enterprise Linux Association (OpenELA) продължава да е в центъра на вниманието.

В разговор с The Register по време на събитието Kubecon в Северна Америка главният технологичен и продуктов директор на SUSE Томас Ди Джакомо Ди Джакомо разказва за мотивите на компанията за този ход: „Ние вярваме в отворения код и в това, че софтуерът е достъпен за всички.

„Бихме могли да направим това и сами. Искам да кажа, че знаем как да правим Enterprise Linux… Но от самото начало искахме да имаме и нещо повече от една компания.“

SUSE е една от трите големи компании, заедно с CIQ и Oracle, които стоят зад OpenELA. Асоциацията беше създадена, след като Red Hat реши да ограничи достъпа до изходния код.

OpenELA не ви дава двоичен файл, а изходния код. Все пак трябва да изтеглите и да създадете свой собствен Linux – да си създадете собствена марка Linux…

Триото създава любопитни връзки. SUSE е ветеран в производството на Linux и през последните години премина през няколко сътресения – Ди Джакомо ни каза, че компанията отново ще бъде напълно частна в рамките на следващите две седмици. CIQ и нейната дистрибуция Rocky Linux се появиха след решението на Red Hat да се откаже от CentOS в полза на CentOS Stream. И Oracle е… Oracle. Компания, която се оказа в необичайното положение да бъде рицар в блестящи доспехи за Linux, въпреки някои от своите не особено благоприятни лицензионни практики за други продукти.

Мисля, че мотивите на високо ниво са едни и същи: предоставяне на изходния код на всички.“ „Работи добре“, казва Ди Джакомо.

„OpenELA не ви дава двоичен файл, а изходния код. Все още трябва да изтеглите и да създадете свой собствен Linux – да си създадете собствена марка Linux. В крайна сметка Oracle ще вземе изходния код от OpenELA, за да създаде Oracle Linux. CIQ за Rocky потенциално. SUSE ще го вземе, за да създаде дистрибуциите SUSE Liberty…“

Дали това няма да доведе до известно намаляване на ресурсите на SUSE? Ди Джакомо не мисли така. Компанията добавя опции за поддръжка на корпоративни продукти за CentOS 7, която скоро ще бъде изведена от употреба.

Той казва: „Реалността е, че екосистемата на CentOS е доминираща в света. Имаме клиенти и общности, които в средата на 2024 г. са оставени в много лоша ситуация. И ние можем да помогнем… помагаме на общността и на клиентите с CentOS 7. Можем да помогнем с пачове и поправки на сигурността“.

Алтруизмът на компанията стига само дотук. Докато CIQ, като пример, наскоро обяви сътрудничество с Google Cloud, за да накара сираците на CentOS да мигрират към Rocky Linux, SUSE ще поддържа инсталациите на CentOS 7 работещи малко по-дълго срещу заплащане.

Ди Джакомо не уточни колко дълго ще продължи поддръжката. „Можем да направим това в продължение на много години. Трябва да уточним окончателно това, но поне две или три години, за да дадем на хората време да решат какво да правят. Компаниите имат бизнес, който трябва да управляват, и не бива да им се налага да взимат такива решения“.

Той има право, въпреки че ние твърдим, че датата на приключване на експлоатацията през 2024 г. е известна от известно време насам и един добре управляван ИТ отдел трябва да има планове за справяне с нея. А разходите?

Ди Джакомо казва: „TBD … но утре няма да могат да получат това, което са получавали безплатно.“ Той обаче каза, че цените няма да са толкова високи, че преминаването към SLES да е по-добър вариант.

Попитахме Red Hat как се чувства по отношение на всичко това и ще актуализираме информацията, ако компанията отговори.

Сега не е добро време… освен при изкуствения интелект. Тогава получавате повече пари от VC! Но това е единственият начин да получите пари от VC днес!

Реакцията на общността на промените на Red Hat, свързани с достъпа до източниците на Red Hat Enterprise Linux – включително създаването на самата OpenELA – трябва да накара други компании с отворен код да се замислят, тъй като рисковите капиталисти започват да очакват възвръщаемост на инвестициите.

Ди Джакомо отбелязва, че макар голяма част от днешните иновации да се коренят в отворения код, „страната на бизнес модела за мен е много различна“.

Той казва, че стартиращите компании и промените в лицензите се случват: „Мога да разбера защо те – някои от тях – правят това, което правят. Те трябва да оцелеят. Те трябва да плащат на хората. Трябва да се изплатят на VC (Venture Capitalist).

„Това не е добър момент… освен при изкуствения интелект. Тогава получавате повече пари от VC! Но това е единственият начин да се получат пари от VC днес!“

Подобно на други технологични ветерани, Ди Джакомо отбелязва, че от решаващо значение е да се вземе решение за бизнес план и стратегия за монетизация от самото начало, а не да се чака да се види какво ще се случи с приемането и след това произволно да се реши какво може да се превърне в търговска версия за предприятия и какво може да остане с отворен код.

Той казва: „Трябва да мислите за това още от първия ден. Не в края на процеса.“

Нищо не пречи на която и да е компания да направи промяна в лиценза. Все пак Ди Джакомо предупреждава, че трябва да се внимава, за да се избегнат потенциални капани: „Губите доверието на клиентите, губите потенциално общността, губите приемането и оставате без нищо.“

„А красотата на отворения код е, че ако общността не го харесва или клиентите не го харесват, тогава те могат да се разклонят и да направят нещо друго.“ ®

Компанията Atlassian повишава максимално брояча на заплахите за недостатък в оторизацията на Confluence

0

Компанията Atlassian преразгледа оценката на сериозността на неотдавнашната уязвимост с неправилно оторизиране в Confluence Data Center и Server, като повиши оценката по CVSS от 9.1 до максималната 10.

Компанията преработи своята консултация по сигурността за CVE-2023-22518, след като в понеделник разбра, че е настъпила „промяна в обхвата на атаката“.

В първоначалната си консултация доставчикът със седалище в Австралия заяви, че използването на уязвимостта от неавтентифициран потребител може да доведе до „значителна загуба на данни“. В наскоро актуализираната консултация той признава, че атакуващият може да нулира Confluence и да създаде администраторски акаунт.

С администраторски права възможностите на нападателя в компрометирана инстанция се простират далеч отвъд загубата на данни и включват доставка на зловреден софтуер и софтуер за откуп, деактивиране на мерки за сигурност, създаване на акаунти за дългосрочен достъп и др.

В допълнение към повторното изтъкване, че всички версии на Confluence са засегнати от уязвимостта и трябва да бъдат обновени по спешност, Atlassian вече потвърди, че е започнала активна експлоатация на уязвимостта, като повтори неотдавнашните доклади на други представители на индустрията за киберсигурност.

Компанията за сигурност Rapid7 съобщи, че на 5 ноември се е разгърнало възможно събитие за масова експлоатация, след като нейната телеметрия е засекла атаки в „различни клиентски среди“.

„Веригата на изпълнение на процесите в по-голямата си част е последователна в множество среди, което показва възможна масова експлоатация на уязвими сървъри Atlassian Confluence, насочени към интернет“, се казва в публикация в блога.

По-нататък Rapid7 отбеляза, че в много случаи наблюдаваните експлойти са довели до опити за изтегляне на щама Cerber ransomware, които, ако са били успешни, са довели до разгръщането му.

Анализът на бинарния код на ransomware Cerber, извършен от Red Canary, показа, че първото му подаване към VirusTotal е било на 1 ноември, което показва, че опитите за експлоатация вероятно са започнали по-малко от 24 часа след публикуването на първоначалната консултация.

Тя също така смята, че щамът Cerber е произлязъл от миналогодишното изтичане на информация за Conti.

„Бързината, с която се разви тази кампания, със само няколко дни между публикуването на кръпка и активната експлоатация в дивата природа, подчертава колко бързо работят подобни противници, за да идентифицират и да се възползват от механизмите за разпространение на своите продукти“, се казва в доклада на Huntress Labs.

Според Huntress Labs при търсене в Shodan на „Confluence“ се получават повече от 200 000 резултата, а при търсене на Confluence favicon – повече от 5 000. Тези цифри не са показател за броя на уязвимите случаи, но показват колко от тях са изложени на въздействието на интернет.

На уязвимите клиенти се препоръчва незабавно да извършат ъпгрейд, но Atlassian изброява и редица временни смекчаващи мерки, ако ъпгрейдът не е възможен.

Повишената оценка на сериозността на CVE-2023-22518 сега означава, че тя съответства на сериозността на другата голяма уязвимост на Confluence – нулев ден, разкрит по-рано през октомври.

Atlassian също така даде на уязвимостта CVE-2023-22515 критична оценка за сериозност 10/10. Подобно на по-скорошния недостатък, той също е бил използван скоро след първоначалното му разкриване.

Националният институт по стандартизация и технологии (NIST) го счита за малко по-малко сериозен, като вместо това му дава оценка 9,8. NIST все още не е оценил сериозността на CVE-2023-22518; максималната оценка е тази, определена само от Atlassian. ®

Химик с изкуствен интелект създава катализатори за производство на кислород с помощта на марсиански метеорити

0

Учени от Китай твърдят, че са използвали изкуствен интелект и физическа роботика, за да помогнат за осигуряването на кислород от вода и космически скали на марсианската повърхност.

Проектът, базиран в Китайския университет за наука и технологии в Хефей, е част от по-широкообхватни усилия за намиране на ресурсите, необходими за човешкото обитаване на Червената планета, като се пренасят възможно най-малко ресурси от Земята.

Д-р Джун Дзян, ръководител на изследването, предполага, че химикалите, открити в метеоритите на марсианската повърхност, могат да се използват като катализатори за извличане на кислород, необходим за човешкото дишане.

Изследването, публикувано тази седмица в Nature Synthesis, дава основание да се смята, че един от методите за производство на кислород е подходящ за бъдещи човешки мисии на Марс.

Изследването подчертава значението на изкуствения интелект при намирането и усъвършенстването на подходящите катализатори сред проби от пет различни категории метеорити, получени както от самия Марс, така и от проби, открити на Земята, за които се знае, че имат паралели на Марс.

„Целият процес, включващ предварителна обработка на марсианската руда, синтез на катализатори, характеризиране, тестване и, най-важното, търсене на оптималната формула на катализатора, се извършва без човешка намеса“, се обяснява в статията.

Итеративният процес, както при химичното моделиране, така и при физичните процеси, би могъл да отнеме 2000 години, ако се извършваше от хора, твърдят авторите.

„Разработихме роботизирана система с изкуствен интелект, която има химически мозък“, казва Дзян пред уебсайта на Nature. „Смятаме, че нашата машина може да използва съединенията в марсианските руди без човешко ръководство“.

Въпреки че не е в изобилие в течна форма на Марс, на Червената планета е открита замръзнала вода точно под повърхността в полярните райони, а в някои райони сезонно тече солена вода.

В статията Дзян и екипът предполагат, че техният „робот-химик с изкуствен интелект“ може да доведе до автоматизирано производство на катализатори с помощта на марсиански метеорити, осигурявайки на бъдещите изследователи на Марс метод за производство на кислород на повърхността на планетата.

Съществува обаче конкуренция за производството на кислород на място на Марс. По-рано тази година Майкъл Хехт от обсерваторията „Хейстак“ на Масачузетския технологичен институт ръководи изследване, наречено „Експеримент за използване на ресурсите на Марс за кислород на място“ (MOXIE), на борда на марсохода на НАСА „Персевърънс“. То успешно демонстрира производството на кислород от марсианския въздух, който в по-голямата си част е въглероден диоксид. Но ако искаме да поддържаме живота на нещо друго, освен на малък бозайник, ще трябва да го увеличим значително.

Друго скорошно изследване включва фотоелектрохимично устройство, което използва полупроводникови материали за преобразуване на слънчевата енергия директно в химическа енергия за производство на водород и кислород от вода, без да е необходимо междинно производство на електроенергия, според проучване за жизнеспособност, ръководено от изследователката Катарина Бринкерт, доцент по катализ в Университета в Уоруик и публикувано през юни. ®

Microsoft и Meta представят подробни планове за борба с дезинформацията на изборите през 2024 г.

0

Microsoft и Meta имат много различни инициативи за борба с дезинформацията през 2024 г., която ще бъде натоварена година на избори по целия свят, но дали те ще бъдат ефективни, е друг въпрос.

От своя страна Майкрософт обяви стратегия за защита на изборите в пет стъпки, която ще внедри през следващите месеци „в САЩ и други страни, в които през 2024 г. ще се проведат важни избори“, заявиха в публикация в блога си президентът на Майкрософт Брад Смит и вицепрезидентът по технологиите за основните права Тереза Хътсън.

През 2024 г. в повече от 40 държави ще се проведат национални избори.

Първата инициатива на Microsoft е услугата Content Credentials (Удостоверения за съдържание), в която Редмънд ще въведе метаданни за цифрови водни знаци за изображения и видеоклипове, разработени от Коалицията за доказване и автентичност на съдържанието (C2PA), на която Microsoft е член.

„Потребителите могат да прикрепят Content Credentials към своите изображения или видеоклипове, за да покажат как, кога и от кого е създадено или редактирано съдържанието, включително ако е генерирано от изкуствен интелект“, заяви Microsoft. Удостоверенията за съдържание ще дадат възможност на кампаниите „да твърдят, че дадено изображение или видеоклип произхожда от тях, като същевременно се предпазват от фалшифициране, като показват дали съдържанието е било променено след създаването на удостоверенията му“.

Функцията ще бъде налична като частен предварителен преглед през (северното полукълбо) пролетта на 2024 г. и първоначално ще бъде достъпна само за политически кампании.

Както The Reg отбеляза по-рано, технологията на Microsoft за създаване на водни знаци за съдържание (Content Credentials), която тя създаде заедно с Adobe и други организации в C2PA, разчита до голяма степен на това дали приложенията, показващи маркирано съдържание, могат да обработват метаданните, които го обозначават като такова. Chrome не я разпознава, така че символът „cr“, който маркира дадено изображение, изобщо няма да се показва в най-популярния уеб браузър в света.

Освен това нищо не пречи на лошите хора да премахнат метаданните, които според Adobe могат лесно да бъдат възстановени чрез облака за удостоверения за съдържание – разбира се, при условие че издателят, който хоства манипулираното съдържание, е свързан с този облак.

Удостоверенията за съдържание имат за цел да защитят кампаниите от злоупотреба с техните медии, но Microsoft не спомена как може да контролира разпространението на злонамерена дезинформация чрез своите услуги, включително LinkedIn, която през последните години имаше проблеми с фалшификати, генерирани от изкуствен интелект. Поискахме от компанията да внесе яснота.

Освен че дава възможност на кампаниите да поставят водни знаци на своите медии, Microsoft е сформирала и „екип за успех на кампаниите“, който ще съветва политическите кампании как да „навигират в света на ИИ, борбата [и] кампаниите за кибернетично влияние“.

Производителят на Windows планира също така да създаде Център за комуникации по време на избори, където екипите по сигурността ще бъдат на разположение на изборните органи, и планира да си партнира с организации, които обозначават новинарските източници като авторитетни, за да гарантира, че „[Bing] заявките за администриране на избори ще извеждат авторитетни сайтове“.

Освен това Майкрософт планира да „използва гласа си като компания, за да подкрепи законодателни и правни промени, които ще допринесат за защитата на кампаниите и изборните процеси от дълбоки фалшификати и други вредни употреби на новите технологии“. Тя започва с това, че хвърля своята тежест зад двупартийния „Закон за защита на изборите от измамни изкуствени интелекти“, внесен в Сената на САЩ през септември, който не е помръднал, откакто е разпределен в комисия.

Може би метамашина за дезинформация за масите

Майкрософт не казва дали ще се изискват удостоверения за съдържание за политически кампании и не споменава за контролиране на рекламите в своите услуги. Съобщението на Мета беше изцяло в тази насока.

„Рекламодателите ще трябва да оповестяват винаги, когато социална, предизборна или политическа реклама съдържа фотореалистично изображение или видео, или реалистично звучащо аудио, което е създадено или променено по цифров път“, заяви Meta в публикация в блога, публикувана днес.

Този ход ще засегне всяка медия, която изобразява реално лице, което прави или казва нещо, което всъщност не е направило, фалшиви или променени изображения на реални събития и/или „реалистично изглеждащи“ изображения на хора или събития, които всъщност не са се случили. Не е необходимо да се отбелязват промени, които са „несъществени или незначителни за твърдението“ в рекламата.

„Meta ще добави информация за рекламата, когато рекламодателят разкрие в рекламния поток, че съдържанието е цифрово създадено или променено“, заяви компанията. „Ако установим, че рекламодателят не разкрива информацията, както се изисква, ще отхвърлим рекламата, а повторното неразкриване на информацията може да доведе до санкции.“

Промяната ще влезе в сила през 2024 г., заяви Мета, и ще се прилага в световен мащаб.

Само миналия месец обаче надзорният съвет на Мета постанови, че видеоклип на президента на САЩ Байдън, манипулиран така, че да изглежда, че той докосва по неподходящ начин внучката си, е бил допуснат да остане във Facebook, тъй като въпреки факта, че е бил променен, за да заблуди, технически не е нарушавал правилата.

В правилата на компанията за манипулирана медия се казва, че потребителите не трябва да публикуват кадри, създадени с помощта на изкуствен интелект, включително дълбоки фалшификати, които „сливат, комбинират, заменят и/или наслагват съдържание върху видеоклип, създавайки видеоклип, който изглежда автентичен“, както и че се забранява съдържание, което „вероятно ще подведе средностатистическия човек да повярва, че обектът на видеоклипа е казал думи, които не е казал“.

Така че, независимо дали е подправено или не, фалшивият видеоклип може да остане.

Що се отнася до прилагането на новите правила, Meta заяви, че планира да разчита на „независими партньори за проверка на фактите“, които да преглеждат медиите за фалшиво съдържание, което се е изплъзнало от новото изискване за оповестяване на компанията.

Meta все още не е отговорила на нашите въпроси относно съобщението. Обърнахме се към други фирми за социални медии, за да научим дали имат нови инициативи за дезинформация по време на избори, които да споделят, и ще актуализираме информацията, когато получим отговор. ®

YouTubers любезно помолени да маркират своите deepfake видеа като Fake Fakey McFake Fakes

0

YouTube въвежда куп правила за видеоклиповете, генерирани от изкуствен интелект, с надеждата да ограничи разпространението на фалшиви кадри, маскирани като легитимни; дълбоки фалшификати, които карат хората да изглеждат, че казват или правят неща, които никога не са правили; и песни, които нарушават авторските права на изпълнителите.

Тази бюрократична процедура ще бъде въведена през следващите месеци и ще се прилага за материали, качени от потребителите, както ни беше казано.

По-конкретно, гигантът за споделяне на видеоклипове, собственост на Google, ще изисква от създателите на съдържание да оповестяват дали техните видеоклипове съдържат правдоподобни синтетични кадри на измислени събития, включително изображения, направени от изкуствен интелект, или дълбоки фалшификати, които поставят думи в устата на хората. В тези случаи в описанието на видеоклипа ще се добавя етикет, който ще обявява, че съдържанието е променено или цифрово генерирано, а ако съдържанието е особено чувствително, в самия видеоплейър ще се добавя по-ясна бележка. Нарушаването на правилата ще доведе до сваляне на съдържанието и до наказания на акаунти.

Ето и формулировката на YouTube:

Фалшифицирани кадри, които биха могли да заблудят зрителите по важни теми като избори, конфликти и насилие, проблеми на общественото здраве или популярни личности, също трябва да бъдат специално маркирани. „Създателите, които постоянно избират да не разкриват тази информация, могат да бъдат подложени на премахване на съдържание, временно отстраняване от партньорската програма на YouTube или други наказания“, предупредиха днес продуктовите инспектори на YouTube Дженифър Фланъри О’Конър и Емили Моксли.

Стандартните правила за модериране на съдържанието на видеосайта продължават да се прилагат и по отношение на медиите, генерирани от изкуствен интелект. Етикетът, разкриващ измислено съдържание, няма да предпази видеото от изтриване, ако то нарушава насоките на общността на YT. Съдържание, което е особено вулгарно, съдържа вредни изображения или опасна и незаконна информация, ще бъде премахнато, дори и да е фалшиво.

Бизът също така разкри, че разполага с десетки хиляди човешки модератори в световен мащаб, които охраняват платформата с помощта на класификатори, задвижвани от изкуствен интелект; операцията на Google твърди, че генеративният изкуствен интелект – като този, който прави дълбоки фалшификати – е помогнал за обучението и подобряването на тези класификатори. Вероятно тези невронни мрежи ще станат по-добри в откриването на неразкрити фалшиви материали и ще ги сигнализират на модераторите.

„YouTube винаги е използвал комбинация от хора и технологии за машинно обучение, за да прилага нашите Насоки за общността, като повече от 20 000 рецензенти в Google работят по целия свят“, заявиха изпълнителите на „тубата“. „В нашите системи класификаторите с изкуствен интелект помагат за откриването на потенциално нарушаващо правилата съдържание в голям мащаб, а рецензентите работят, за да потвърдят дали съдържанието действително е преминало границите на правилата.“

Хората ще могат да поискат видеоклиповете да бъдат изтрити, ако в тях има изображения или аудио, генерирани от изкуствен интелект, които имитират техните образи, от съображения за сигурност и/или поверителност. Модераторите на съдържанието ще решават дали да свалят материала в зависимост от това дали лицето, подало жалбата, може да бъде „еднозначно идентифицирано“. Дълбоките фалшификати, които изобразяват публични личности със сатирична или пародийна цел, обаче вероятно ще бъдат отбелязани като доброкачествени.

Музика, генерирана от изкуствен интелект, която пресъздава гласа и звука на даден изпълнител, обаче може да бъде премахната. YouTube ще въведе предстояща функция, която очевидно ще улесни създателите и звукозаписните компании, които си партнират с бизнеса на Alphabet, да маркират всички видеоклипове, които потенциално могат да нарушават авторски права върху музика.

„При определянето на това дали да удовлетворим искането за премахване, ще вземем предвид фактори като това дали съдържанието е предмет на новинарски репортаж, анализ или критика на синтетичните вокали“, заявиха Фланъри О’Конър и Моксли.

Генериращият изкуствен интелект се усъвършенства бързо. Усъвършенстването и броят на наличните инструменти за създаване на фалшиво, реалистично изглеждащо съдържание означава, че организации като YouTube вероятно ще бъдат залети от медии, създадени от ИИ. В момента най-добрата тактика за постигане на баланс между креативността и модерирането на съдържанието според нея е да се насърчават YouTube потребителите да бъдат прозрачни по отношение на това дали видеоклиповете им са били дигитално променени или не.

YouTube заяви, че през следващите месеци и през 2024 г. ще въведе гореспоменатите функции в подкрепа на новите си политики. ®

Какво да правим с инструментариума за проникване в облака през 2023 г.? Да му сложите чат асистент, ясно.

0

Инфоспекторите са описали подробно един подземен инструмент за киберсигурност, наречен Predator AI, който не само може да се използва за компрометиране на лошо защитени облачни услуги и уеб приложения, но има и допълнителен асистент чат-бот, който работи само донякъде.

Многофункционалният софтуер не е съвсем нов – има и други подобни; и макар да се предполага, че се предлага само за образователни цели, той може да се използва от злосторници за атакуване на чужди внедрявания. Той може да се използва и от ИТ специалисти, за да тестват инфраструктурата си за пропуски.

Predator AI очевидно е програмиран така, че да може да експлоатира 30 вида неправилно конфигурирани или лошо настроени уеб базирани услуги и технологии, вариращи от Simple Email Service на Amazon Web Services, Twilio и WordPress до OpenCart, Magento, OneSignal, Stripe и PayPal, обясни в сряда шефът на SentinelLabs Алекс Деламот.

Неговият допълнителен асистент чат-бот – частично задвижван от ChatGPT на OpenAI – вероятно е само „донякъде функционален“ в момента, добави Деламот. Тази конкретна функция, която ви позволява да задавате на инструмента въпроси за работата му и евентуално да извършвате действия, все още не е обявена в основния канал на инструмента в Telegram. Въпреки това ни беше казано, че тя е в процес на активна разработка, като създателите ѝ публикуват видеоклипове с нея в действие и приемат заявки за функции.

Не би навредило да прегледате възможностите на софтуера и да се уверите, че вашите уеб приложения и облачна инфраструктура са напълно защитени от техниките на инструмента. Възможно е Predator да използва код и методи, открити в други комплекти инструменти.

„Атаките на уеб приложенията на Predator търсят често срещани слабости, неправилни конфигурации или уязвимости в Cross Origin Resource Sharing (CORS), открита конфигурация на Git, PHPUnit Remote Code Execution (RCE), Structured Query Language (SQL) и Cross-Site Scripting (XSS)“, пише Delamotte.

Predator, написан на Python, има повече от 11 000 реда код и предоставя графичен потребителски интерфейс, базиран на Tkinter, който изисква няколко JSON конфигурационни файла. Скриптът дефинира 13 класа, които кореспондират с различните странични функции на зловредния софтуер, както и с основната му зловредна функционалност.

Тези странични функции включват неща като създаване на изпълними файлове на зловреден софтуер за кражба на информация от Windows; използване на команди на Windows, които проверяват дали текущият потребител работи като администратор; създаване на фалшиви съобщения за грешка за тестване на XSS експлоатиране на системи с Windows; и превеждане на диалогови прозорци и елементи от менюто на арабски, английски, японски, руски и испански език.

Конфигурируемият зловреден софтуер за събиране на данни, който Predator може да създаде, може да използва Discord или Telegram за целите на командването и контрола, а във видеоклип, публикуван от разработчика му миналия месец, се твърди, че кодът е „напълно неоткриваем“.

SentinelLabs обаче заяви, че „не е в състояние да използва успешно тази функция, тъй като необходимите конфигурационни файлове не са били налични“.

След това е класът GPTj, който използва ChatGPT, за да осигури текстово базиран асистент: заявките се въвеждат в графичния интерфейс, който показва отговора. Скриптът първо ще се опита да обработи подадената от потребителя заявка сам вътрешно: има повече от 100 случая на употреба, които той може да разпознае и извърши сам или чрез услуга на трета страна, преди да се опита да използва отдалечен ChatGPT API, за да разбере заявката.

Този клас съдържа „няколко частично реализирани помощни програми, свързани с AWS SES и Twilio, както и помощни програми за получаване на информация за IP адреси и телефонни номера“, според SentinelLabs. Обхватът на възможностите на GPTj не е напълно ясен: изглежда, че ChatGPT се използва за обработка на основни въпроси за инструмента, а действията всъщност се извършват от самия скрипт, когато разпознава заявки от твърдо кодиран списък.

Възможно е да грешим; това може да се промени с течение на времето. Човек би си помислил, че OpenAI ще има предпазни огради, които да попречат на нещото да направи или каже нещо проблемно. Това дава на разработчиците на Хищника причина да зашлевят ИИ на името.

„Актьорът е проектирал изкуствения интелект на Predator така, че първо да се опита да намери локално решение, преди да отправи запитване към API на OpenAI, което намалява потреблението на API“, обяснява Деламот. „Този клас претърсва входа на потребителя за низове, свързани с известен случай на употреба, съсредоточен около един от инструментите за хакване на уеб приложения и облачни услуги на Predator.“

За да поддържа впечатлението, че става въпрос за легитимен софтуер, кодът „има отказ от отговорност, в който се казва, че инструментът е за образователни цели и авторът не одобрява незаконната му употреба“, каза Деламот. Това ще свърши работа в съда. ®

Майкрософт се възползва от огледалния ефект вместо от преместването в гамбит за склад за данни

0

Ignite Microsoft съветва клиентите, които използват нейната платформа Fabric, да копират данни от други складове за данни и системи за анализ в разрез с преобладаващата тенденция в индустрията.

Fabric – която обхваща хранилище за данни, езеро от данни, анализи, BI и машинно обучение – беше пусната на пазара по-рано тази година, обещавайки да отговори на „всеки аспект от нуждите на организацията от анализи“.

По време на конференцията Ignite на софтуерния гигант от Редмънд тази седмица Microsoft обяви нейната обща наличност, както и няколко нови функции.

Получавате копилот и получавате копилот – Майкрософт вече е компанията за копилоти

ПОВЕЧЕ IGNITE

Сред тях е Mirroring – начин за добавяне и управление на съществуващи облачни складове за данни и бази данни в системата Synapse Data Warehouse на Fabric. Microsoft заяви, че Mirroring репликира моментна снимка на външната база данни в OneLake в таблици Delta Parquet и поддържа репликата синхронизирана в „почти реално време“.

Оттам потребителите могат да създават преки пътища, за да позволят на други работни натоварвания на Fabric – конектори, инженеринг на данни, изграждане на модели с изкуствен интелект, складове за данни – да използват данните, без да ги преместват отново. Microsoft обеща, че Azure Cosmos DB и Azure SQL DB ще могат да използват Mirroring за достъп до данни в OneLake, докато клиентите на доставчика на облачни платформи за данни Snowflake и NoSQL базата данни MongoDB ще могат да направят същото.

Този ход донякъде изпълнява тенденция, наблюдавана в областта на складовете за данни и анализите през последните няколко години. Поддържайки формата на таблицата Delta, други съвместими аналитични двигатели ще могат да получават достъп и да използват данните в OneLake, без да ги преместват.

Delta се поддържа от гиганта в областта на приложенията SAP и Databricks.

Но други са възприели друг формат на таблицата – Apache Iceberg – с подобна цел. Сред тях са Snowflake, Cloudera и BigLake на Google.

Iceberg и Delta на практика са слоеве от метаданни върху формата за съхранение на данни Apache Parquet.

Въпреки че и двата формата – както и Apache Hudi – са създадени, за да помогнат на аналитичните двигатели да достигнат до данните, избягвайки разходите за преместването им, Microsoft твърди, че копирането на данни от други източници е необходимо, за да се получи по-добра производителност.

Microsoft Ignite накратко

В разговор с The Register Арун Улаг, главен вицепрезидент на Azure Data, заяви, че идеята на Mirroring е да позволи на клиентите, които имат данни, намиращи се в собствени бази данни и складове за данни, като Snowflake например, да създадат и поддържат реплика на OneLake.

Въпреки че може да се наложи данните да се съхраняват на две места, Улаг твърди, че ще има предимства по отношение на производителността.

„По-голямата част от данните на Snowflake не се намират в Iceberg – каза той, – а в собствената им база данни. Подобно на други данни в патентован формат, единственият начин да се докоснете до данните е да преминете през SQL интерфейс, което увеличава разходите на клиентите. Това също така означава, че има още едно ниво на изпълнение, което забавя производителността.“

Копирането на данните във Fabric Power BI например дори не се налага да се изпращат SQL заявки към Snowflake, тъй като данните се намират в Apache Parquet и Delta Lake, родния формат на OneLake. „Тя просто ще отиде в OneLake и ще ги вмъкне в паметта, когато постъпят заявки“, казва Улаг. „Това ви дава значително ускорение на производителността, защото знаете, че елиминирате цялото изпълнение на SQL.“

Джеймс Малоун, директор по управление на продуктите на Snowflake, заяви пред The Reg: „В Snowflake вярваме в премахването на копията на данни, за да се опрости управлението и да има по-голяма ефективност. Нуждите на нашите клиенти се различават значително, така че нашият подход е да предоставим на клиентите възможности, които съответстват на техните нужди.

„Много клиенти намират голяма стойност в опростяването, сигурността и производителността, като зареждат данни в Snowflake с нашия напълно управляван формат. А някои случаи на употреба дават приоритет на оперативната съвместимост, в който случай поддържаме Iceberg, така че да е напълно отворен и просто да работи в хранилищата на клиентите във всеки от облаците, които Snowflake поддържа, включително Azure“, добави Малоун.

Един експерт от бранша заяви, че Microsoft ще трябва да копира данните, за да получи по-добра производителност на заявките, докато не започне да поддържа Iceberg нативно, което според нея ще стане в бъдеще. Възможно е също така Microsoft да смята, че може да управлява данните по-добре от Snowflake, за да получи по-добра производителност на заявките чрез начина, по който контролира клъстерирането, казаха те.

Хьон Парк, главен изпълнителен директор и главен анализатор в Amalgam Insights, заяви: „Microsoft с удоволствие ще вземе всички Parquet файлове и ще ги постави в езеро от данни на Microsoft и с удоволствие ще вземе всички данни от Snowflake, които може да получи в този процес.“

Но зад кулисите може би има причини, поради които Microsoft засега се фокусира върху Delta, а не върху Iceberg.

„Знаем, че досега има само една голяма компания, която се е фокусирала върху формата Delta Lake, и това е мощният стартъп Databricks“, казва Парк. „Съществува и продукт Azure Databricks, който се справя много добре. Всъщност това може би е най-успешният продукт на Microsoft Azure. Нашите данни показват, че в момента това е бизнес за няколко милиарда долара, когато се разглеждат езерото от данни и свързаните с него аналитични натоварвания и машинно обучение.

„Майкрософт“ не крие, че залага голяма част от краткосрочния си растеж на изкуствения интелект. Това означава, че Майкрософт иска да може да поддържа формата на езерото Делта и да извършва колкото се може по-голяма част от работата сама върху собствената си инфраструктура и ресурси.“

Парк каза, че Microsoft също така има много облачен бизнес с Azure, който е пряко зависим от Databricks, и ще иска да се увери, че прави всичко възможно, за да не загуби този бизнес. „Въпреки че Iceberg е по-разпространеният стандарт за езеро от данни, когато се погледне през ландшафта на ИТ доставчиците, Databricks е много успешен в предоставянето на инфраструктура за машинно обучение на ниво данни“, каза той.

Въпреки това той заяви, че Microsoft в крайна сметка също ще има значителен принос към Iceberg.

На Ignite Microsoft заяви, че ще разшири своя чатбот Copilot до Fabric. Сега в публична предварителна версия този ход обещава да позволи на учените, занимаващи се с данни, да използват естествен език за създаване на потоци от данни и конвейери, да пишат SQL изявления, да изграждат отчети и да разработват модели за машинно обучение. ®