Новите паметни очила носат ризик од злоупотреба на детски слики

Тајното снимање на јавни места создава материјал за злоупотреба со вештачка интелигенција, додека Мета ја префрла одговорноста на корисниците.
Фото: cavebear42, CC BY-SA 4.0, via Wikimedia Commons

Новите паметни очила на Мета овозможуваат дискретно снимање видео без користење раце, што отвора сериозни безбедносни ризици за децата на јавни места. Додека технологијата се промовира како алатка за родители, експертите предупредуваат дека украдените фотографии стануваат материјал за генерирање екстремни содржини со вештачка интелигенција. Градинките и училиштата веќе воведуваат забрани за нивно носење, но Мета тврди дека одговорноста за евентуална злоупотреба паѓа исклучиво на самите корисници.

За разлика од првите модели на Google од пред една деценија, новите паметни очила развиени во соработка со модни брендови како Ray-Ban се дизајнирани да изгледаат како обични рамки. Мета ги рекламира пред родителите со ветување дека нема да пропуштат ниту еден момент од детството, овозможувајќи им снимање додека ги држат рацете слободни.

Сепак, истата технологија овозможува ненаметливо снимање луѓе без нивна согласност. Моделите содржат мала светлосна индикација за снимање, но многу минувачи сè уште не препознаваат што означува тоа светло.

Тајно снимените слики од деца добиваат уште поопасна димензија со развојот на вештачката интелигенција. Организацијата Internet Watch Foundation во свој извештај предупреди дека фотографиите направени во реалниот живот или собрани од интернет се користат како суровина за генерирање снимки од злоупотреба на деца.

Според извештајот, ваквиот синтетички материјал го зголемува ризикот од реални прекршоци. Поради оваа причина, низа образовни установи и градинки започнаа целосно да го забрануваат носењето паметни очила во нивните простории.

Потпретседателот за нослива технологија во Мета, Алекс Химел, истакна дека уредите им овозможуваат на родителите подобро да ги зачуваат спомените. На прашањата за потенцијална злоупотреба, компанијата одговори дека самите поединци треба да се грижат да не ја користат технологијата злонамерно.

Критичарите потсетуваат дека ваквиот став ги занемарува лекциите од развојот на социјалните мрежи. Потенцијалните регулаторни мерки вклучуваат обврска за построги гласовни или звучни сигнали при снимање, или воведување правна одговорност за производителите на уреди со висок ризик за јавната безбедност.

Покрај ризиците за приватноста, технологијата нуди и значајни придобивки за одредени групи корисници. За слепите и слабовидните лица, очилата со вештачка интелигенција нудат можност за лесна навигација и брз гласовен превод на текстуални содржини од нивното опкружување.

Решението лежи во поквалитетно планирање на самата технологија, каде производителите уште при дизајнирањето ќе ги предвидат и спречат потенцијалните злоупотреби.

е-Трн да боцка во твојот инбокс