Моћни системи вештачке интелигенције представљају претњу друштвеној стабилности, а компаније које развијају такве системе морају бити одговорне за штету коју њихови производи направе, истиче група реномираних стручњака.
Велики број стручњака, научника, политичара и представника технолошких компаније састаће се наредне недеље на самиту о безбедности вештачке интелигенције у Блечли Парку.
Један од 23 аутора предлога стручњака каже да је „потпуно несмотрено и неодговорно“ да се развијају још моћнији системи вештачке интелигенције пре него што уопште можемо да разумемо како да их учинимо безбедним за коришћење.
„Време је да се уозбиљимо када је реч о напредним системима ВИ. Ово нису играчке. Појачавање њиховим могућности пре него што разумемо како да их безбедно користимо је потпуно несмотрено“, истакао је професор компјутерске науке на Универзитету Беркли, Стјуарт Расел.
„Сендвичарнице морају да се придржавају више правила од компанија које развијају вештачку интелигенцију“, додао је Расел.
Документ о којем ће се расправљати апелује на власти земаља широм света да усвоје законе:
– трећину владиних средстава за развој ВИ и трећина ресурса које компаније улажу у истраживање и развој ВИ морају бити усмерени на безбедну и етичку праксу коришћења тих система.
– независни ревизори морају имати приступ лабораторијама за ВИ.
– мора да се успостави систем издавања лиценци за развој и прављење најнапреднијих модела.
– компаније морају да усвоје специфичне безбедносне мере уколико примете опасне способности у својим моделима ВИ.
– технолошке компаније морају да одговарају за штету коју њихови системи ВИ изазову.
Предлог потписују многи реномирани стручњаци, попут Џефрија Хинтона и Џошуе Бенђија, који се сматрају и зачетницима и „очевима“ вештачке интелигенције и који су, између осталог, освојили и Тјурингову награду 2018. године за свој рад на развоју ВИ.
Хинтон је дао отказ прошле године у Гуглу и упозорио на „егзистенцијални ризик“ који представља вештачка интелигенција, док се Бенђио придружио њему и хиљадама других стручњака у апелу у марту којим је тражен мораторијум на спровођење џиновских експеримената са ВИ.
Међу потписницима предлога су и други реномирани аутори, професори, нобеловци, као што су: Ноа Јувал Харари, Данијел Канеман, Шејла Макилрат, Енди Јао…
Они су упозорили да неодговорно развијени системи ВИ прете да „појачају друштвену неправду, поремете и поткопају разне професије, уздрмају социјалну стабилност, омогуће велике криминалне и терористичке активности и ослабе наше заједничко разумевање реалности које је темељ друштва“.
Упозорили су и да тренутни системи ВИ већ показују знаке забрињавајућих способности које указују на појаву аутономних система који могу да планирају, спроводе циљеве и самостално се понашају.
