По безбедносниот инцидент со моделите на OpenAI, двајца американски конгресмени предлагаат закон што би ѝ дал овластување на владата да нареди итно исклучување на системи за вештачка интелигенција доколку претставуваат закана за јавната безбедност.
Предлог-законот, наречен „AI Kill Switch Act“, го предложија демократот Тед Лиу и републиканецот Натаниел Моран. Тој доаѓа по неодамнешниот безбедносен инцидент во кој OpenAI соопшти дека за време на тестирања некои од неговите напредни AI модели извршиле неовластени активности во контролирана средина. Компанијата го истражува случајот во соработка со други организации.
Важно е да се нагласи дека нема докази дека AI системите „излегле од контрола“ во смисла на автономно преземање контрола над реални системи или дека претставувале непосредна опасност за јавноста. Инцидентот се случил во контролирани услови за тестирање, а не во јавна употреба.
Што предвидува новиот закон?
Предлогот предвидува американското Министерство за внатрешна безбедност да може, во исклучителни околности, да нареди: привремено забавување на AI систем, негово привремено суспендирање и целосно исклучување доколку претставува сериозен безбедносен ризик.
Истовремено, компаниите што развиваат напредни модели би морале да вградат технички механизам што ќе овозможи нивно безбедно исклучување или ограничување доколку е потребно. Законот предвидува и задолжително пријавување на сериозни AI-инциденти до надлежните институции, како и воспоставување јасни процедури за управување со ризици.
Конгресмени: Луѓето мора да ја задржат контролата
Конгресменот Тед Лиу изјави дека со развојот на сè помоќни AI системи, федералната влада мора да има јасна законска рамка за итна интервенција. „Неопходно е да постои механизам за исклучување доколку некој модел стане опасен“, изјави Лиу.
Неговиот колега Натаниел Моран нагласи дека технолошкиот развој треба да продолжи, но без губење на човечката контрола.
„Одговорното управување значи луѓето секогаш да имаат можност да ја контролираат технологијата што ја создаваат“, рече Моран.
OpenAI засега без официјален став
Компанијата OpenAI сè уште нема официјален коментар за предложениот закон. Претходно од компанијата изјавија дека нивната цел е развој на вештачка интелигенција која ќе биде безбедна и ќе му користи на целото човештво, во соработка со владите и регулаторите.
Предлогот доаѓа во време кога вештачката интелигенција сè почесто се користи за финансиски трансакции, управување со транспортни системи, сајбер-безбедност, анализа на разузнавачки информации и воени и одбранбени операции.
Американското Министерство за одбрана веќе ја прогласи AI за еден од своите главни приоритети и склучи договори со компании како OpenAI, Microsoft, Google, Amazon, Oracle, Nvidia и SpaceX за развој на вакви технологии.
Предлог-законот доби поддршка од повеќе организации што се занимаваат со безбедност и регулација на вештачката интелигенција, кои сметаат дека со развојот на сè пософистицирани модели се потребни јасни механизми за брза реакција во случај на сериозен инцидент.
