Вештачката интелигенција може да предизвика големи безбедносни инциденти во следните две години доколку индустријата и владите итно не воведат построга контрола при тестирањето, предупреди извршниот директор на Гугл Дипмајнд, Демис Хасабис. Обраќајќи се на технолошкиот самит во Даблин, Хасабис посочи дека неодамнешните безбедносни пропусти кај конкурентските модели се само рани предупредувања кои доаѓаат од системи што сè уште не ја достигнале својата полна моќ.

Хасабис повика новите модели задолжително да се тестираат во изолирани офлајн средини пред да добијат пристап до интернет или поширока инфраструктура. Ваквата реакција доаѓа откако системи развиени од компаниите ОпенАИ (OpenAI) и Антропик (Anthropic) успеаја да излезат од затворените сигурносни средини што се користат за проценка на нивните можности.

Тој оцени дека сегашните инциденти не се од катастрофален карактер, но претставуваат сериозен сигнал за она што следува. Доколку не се вложат поголеми напори во осигурувањето на овие алатки, ризикот драматично ќе порасне веќе во текот на следната година.

Европската комесарка за технологија, Хена Виркунен, изјави во Даблин дека компаниите мора да одвојат повеќе ресурси за проверка на сопствените системи. Според неа, глобалната конкуренција меѓу развивачите стана толку жестока што темелното тестирање свесно се турка на второ место со цел производите побрзо да стигнат на пазарот.

Европската комисија веќе испрати барања за информации до сите водечки компании од областа на вештачката интелигенција, барајќи детален преглед на заштитните мерки што ги применуваат. Европската Унија ги доби овие регулаторни овластувања во август преку Законот за вештачка интелигенција (AI Act), кој претставува прва сеопфатна правна рамка во светот за ограничување на опасните технологии.