Не технологията, а употребата ѝ е ключът към безопасността
Може ли изкуственият интелект да бъде регулиран? И ако да, какви правила могат да гарантират безопасността му, когато дори най-добрите модели могат да бъдат подведени да заобиколят собствените си ограничения?
Докато Европа прецизира регулаторната си рамка, а компаниите се опитват да разберат какво означават новите изисквания за тях, Яни Лозанов, основател на Ethera Technologies, предлага различен поглед към темата. Според него регулацията е възможна, но фокусът трябва да се измести от самия модел към начина, по който се използва.
Между контрола и илюзията
Всеки AI модел може да бъде подведен да заобиколи собствените си ограничения – техника, известна като jailbreak. Понякога промяна в контекста или формулировката на заявката е достатъчна, за да даде системата отговор, който иначе би отказала. Причината е, че поведението на изкуствения интелект не може да бъде предвидено и контролирано по същия начин като изпълнението на традиционна компютърна програма.
„Който ви обещава безопасен модел, ви продава илюзия. Безопасен модел няма. Има безопасна употреба“, казва Лозанов.
Ограниченията на традиционния подход
Един от проблемите пред европейската регулация е, че изкуственият интелект не се държи като традиционен продукт, чиято безопасност може да бъде проверена с поредица от тестове преди пускането му на пазара. Един и същ модел може да даде различни отговори в различен контекст, а успешният резултат от даден тест не гарантира, че системата ще се държи по същия начин при следваща употреба.
Това е и едно от предизвикателствата пред прилагането на европейския Закон за изкуствения интелект (AI Act). През 2026 г. ЕС предвиди отлагане на част от изискванията за високорисковите AI системи – до декември 2027 г. за определени категории системи и до август 2028 г. за системи, включени в регулирани продукти.
„Сроковете бяха удължени не защото Европа се отказва от регулацията, а защото поведение, което се променя според контекста, не се поддава на еднократна сертификация“, коментира Лозанов.
Достъп и отговорност
Според експерта по-практичен подход предлага киберсигурността. Там правилата не се основават на обещанието, че софтуерът никога няма да бъде компрометиран, а на ясни отговорности, ограничен достъп, процедури за реакция и постоянен контрол.
Същата логика може да се приложи и при изкуствения интелект. Вместо да се разчита, че моделът никога няма да допусне грешка или да заобиколи ограниченията си, трябва да се определят условията, при които работи, достъпът му до информация и системи, както и отговорността за действията и решенията, които зависят от него.
Какво означава това за бизнеса
Компаниите, които внедряват AI, не могат да разчитат само на факта, че даден модел е преминал определени тестове. Безопасната употреба изисква важните решения да подлежат на човешки контрол, достъпът до данни и инструменти да бъде ограничен до необходимото, а процесите да предвиждат възможността системата да сгреши. Както добрият мениджър не дава на новия стажант ключа от сейфа, колкото и умен да изглежда.
Законодателят определя правилата, изискванията и отговорността при нарушения. Компанията решава как да внедри технологията, какви правомощия да ѝ даде и как да контролира резултатите от работата ѝ.
„Не можеш да регулираш „мозъка“ на машината. Можеш да регулираш какво ѝ позволяваш да прави. Това важи за законодателя, важи и за всяка компания, която внедрява AI днес“, обобщава Лозанов.
