9.6 C
София

По дяволите, дори папата смята, че AI и автономните оръжия трябва да бъдат овладени

Папа Франциск призова световните лидери да създадат международен договор, регулиращ ИИ, и предупреди да не се разчита на машини за вземане на морални и етични решения, които трябва да бъдат оставени на хората.

В послание преди ежегодния Световен ден на мира – който се празнува от католиците на Нова година – Негово светейшество се обърна към възхода на ИИ и широките рискове, които технологията може да представлява.

Въпреки че призна, че технологичният напредък може да подобри качеството на живот, той посъветва да не се използват за особено рискови приложения, които биха могли да изострят неравенството и конфликтите. Вероятно подобни неща трябва да бъдат оставени на експертите – хората.

„Не можем да предположим a priori , че неговото развитие ще има полезен принос за бъдещето на човечеството и за мира между народите“, каза той. „Този положителен резултат ще бъде постигнат само ако покажем, че сме способни да действаме отговорно и да зачитаме такива основни човешки ценности като „включване, прозрачност, сигурност, справедливост, поверителност и надеждност“.

Лидерът на католическата църква добави, че отговорността за безопасното изграждане на AI е върху суверенни държави и международни организации, които могат да се съберат, за да приемат глобално споразумение, което ще смекчи вредите от технологията. „Призовавам глобалната общност от нации да работят заедно, за да приемат обвързващ международен договор, който регулира развитието и използването на изкуствения интелект в неговите многобройни форми.“

AI често е преувеличен. Въпреки всички блестящи подвизи, извършени от най-новите генеративни AI модели, способни да създават изкуство или да пишат истории, папата правилно отбеляза, че машините могат да имитират само „определени функции на човешкия интелект“. Дори и да станат по-умни, той предупреди да не се разчита на тях, за да правят преценки, които оказват влияние върху поминъка на хората и човешките права.

Алгоритмите, които засягат неща като заетост, наказателно правосъдие или социални придобивки, са предразположени към проблеми с пристрастия и дискриминация и могат да доведат до неравенства по отношение на богатството и властта във все по-големи мащаби. Моралните и етични решения са трудни и не трябва да се оставят на алгоритмите, колкото и интелигентни да са те, твърди той.

Да, когато мислите за морал и етика, първото нещо, което изниква в съзнанието ви, наистина е католическата църква.

Най-опасният риск обаче се крие във военното разработване на автономни оръжия. Папа Франциск твърди, че технологията никога не може да бъде „морално отговорен субект“ и предупреди, че може да попадне в грешни ръце и да предизвика хаос – потенциално да убие невинни граждани и да разруши демокрациите.

Той се оплака, че „светът няма нужда от нови технологии, които допринасят за несправедливото развитие на търговията и търговията с оръжия и следователно в крайна сметка насърчават безумието на войната. По този начин не само интелектът, но и самото човешко сърце би рискувало да стане някога по-„изкуствено“. ®

Сподели

Времето днес

София
ясно небе
9.6 ° C
12.3 °
8.8 °
59 %
1kmh
0 %
чт
11 °
пт
14 °
сб
14 °
нд
14 °
пн
14 °

Автор

ВАШИЯТ КОМЕНТАР

Моля, въведете коментар!
Моля, въведете името си тук