Еден инцидент со AI агентот Muse на „Мета“ отвори сериозно прашање за тоа колку навистина знаеме до кои наши податоци можат да пристапат автономните AI алатки. Технолошкиот колумнист Џејсон Атен пред околу две недели објави дека Muse му испратил известување во кое се повикува на приватна конверзација што ја водел со колега преку Apple Messages.

Проблемот? Атен вели дека никогаш не му дал дозвола на Muse да ги чита неговите пораки и претпоставувал дека тие се надвор од досегот на AI агентот. Случајот предизвика голем број реакции на социјалните мрежи и го сврте вниманието кон еден од најголемите проблеми со новата генерација AI алатки: кога на вештачката интелигенција ќе ѝ дадете пристап до календар, електронска пошта, пораки и оперативниот систем, таа добива потенцијал да направи многу повеќе од она што корисникот можеби го очекува.

А токму тука се отвора и прашањето за транспарентноста – дали AI агентот навистина ќе ви каже до кои податоци пристапува и зошто?

Apple воведува дополнителни ограничувања. Apple официјално најави промени во системот за контрола на Full Disk Access, односно целосен пристап до дискот во macOS. Оваа функција овозможува одредени апликации да ги заобиколат дел од стандардните безбедносни ограничувања на macOS. Тоа е потребно, меѓу другото, за апликации што прават резервни копии да можат правилно да функционираат и да имаат пристап до потребните системски податоци.

Но, токму таквиот пристап може да отвори врата до огромен дел од информациите што се наоѓаат на компјутерот. Apple предупредува дека дел од програмерите го користат Full Disk Access на начин што може да ги изложи корисниците на ризик. Во зависност од апликацијата, тоа може да значи пристап до датотеки, електронска пошта, пораки, па дури и историјата на веб-пребарувањето.

Проблемот не се однесува само на корисникот кој ја инсталирал апликацијата. Кај комуникациските апликации, ваквиот пристап може да ја засегне и приватноста на луѓето со кои корисникот комуницира.

Apple не кажа експлицитно дека случајот со Muse е директна причина за промените. Но, временската рамка повторно го отвори прашањето за тоа дали постојните безбедносни механизми се доволни во ерата на автономните AI агенти.

Што ќе се промени?

Apple најавува дополнителни контроли со кои треба да се осигури дека корисникот навистина сака одредена апликација да добие толку високо ниво на пристап. Тоа значи дека давањето дозвола треба да биде појасно, поексплицитно и намерно наместо корисникот едноставно да прифати пристап без целосно да разбере што му овозможува. Причината е едноставна: AI агентите стануваат сè помоќни и поавтономни.

За разлика од класична апликација која чека корисникот да кликне на одредена команда, AI агентот може самостојно да извршува серија задачи, да пребарува низ податоци и да поврзува информации од различни извори. Колку повеќе пристап има, толку поголем е и потенцијалот за корисна работа – но и за сериозно нарушување на приватноста.

Случајот со Muse затоа отвора пошироко прашање од самата безбедност на macOS: во време кога AI агентите стануваат наши дигитални асистенти, колку информации навистина треба да им дозволиме да гледаат?

И уште поважно – дали корисникот секогаш знае што гледаат?