Вештачката интелигенција може да претставува уште поголем ризик за децата од социјалните мрежи, предупредува Том Сигел, поранешен директор за доверба и безбедност во Гугл. „Се наоѓаме во навистина страшна ситуација во однос на тоа што вештачката интелигенција им прави на децата. Идејата дека индустријата сама ќе го реши тоа без надворешна помош е нереална“, изјавил Сигел за Ројтерс.

Според него, големите компании кои развиваат ВИ веќе воведуваат функции наменети за деца, но без истовремено да воспостават доволно силни механизми за нивна заштита.

Проблемот не е само во содржината

Кај социјалните мрежи, голем дел од ризиците за децата се поврзани со изложеноста на штетна содржина, притисокот од врсниците, зависничкото користење и собирањето лични податоци. Кај ВИ чет-ботовите, меѓутоа, односот е поинаков. Детето не комуницира само со платформа, туку со систем кој одговара директно на неговите прашања, ја следи нишката на разговорот и може да создаде впечаток на личен соговорник.

Токму оваа интеракција отвора дополнителни прашања околу тоа како ВИ системите треба да реагираат кога разговараат со малолетници, какви информации смеат да обработуваат и како треба да постапуваат кога разговорот се однесува на чувствителни теми. Сигел смета дека моменталниот развој на технологијата не е проследен со доволно брзо воведување на заштитни механизми.

ВИ се развива побрзо од правилата

Предупредувањето доаѓа во време кога компаниите забрзано ги интегрираат чет-ботовите и другите ВИ алатки во секојдневниот живот, вклучително и во образованието и услугите што ги користат младите. Прашањето повеќе не е само дали децата ќе користат ВИ, туку под кои услови ќе го прават тоа.

Клучните дилеми се однесуваат на проверката на возраста, приватноста, дизајнот на системите, ограничувањето на чувствителни содржини и начинот на кој ВИ треба да реагира кога корисникот е дете. Затоа Сигел повикува на надворешен надзор и правила, наместо целата одговорност да биде оставена на самите технолошки компании.

Неговата оценка дека ВИ е „поопасна“ од социјалните мрежи е негово предупредување и став, а не универзално утврден научен заклучок. Но, отвора прашање кое станува сè поважно: ако децата веќе се дел од иднината на ВИ, кој ќе се погрижи таа иднина да биде безбедна за нив?