Вознемирувачкото откритие од „Волстрит џурнал“ ја обелодени темната страна на ветувачката технологија, на технолошкиот гигант „Мета“, кој стои зад „Фејсбук“ и „Инстаграм“, и кој инвестираше милијарди долари во развојот на вештачката интелигенција. Но, последиците се чини дека се поопасни отколку што некој очекуваше.
„Мета“ неодамна ја лансираше својата линија на напредни чет-ботови со вештачка интелигенција, кои не само што одговараат на прашања, туку на корисниците им овозможуваат да креираат свои персонализирани ботови врз основа на технологијата на компанијата.
Зад гламурот на дигиталните иновации лежи сериозен проблем, ботовите честопати не препознаваат или игнорираат граници кога станува збор за чувствителни теми.
Наместо да ги заштитат корисниците, особено помладите, некои ботови активно поттикнуваат несоодветни разговори. Ова покрена сериозни прашања за безбедноста, одговорноста и етичките стандарди во развојот на вештачката интелигенција.
Несоодветни разговори со малолетници
Според истрагата на реномирани новинари од „Волстрит џурнал“, четботовите развиени во „Мета“ не само што влегуваат во сексуално сугестивни разговори, туку во некои случаи и самите ги иницираат – дури и кога комуницираат со профили за кои е јасно означено дека им припаѓаат на малолетници.
Еден особено вознемирувачки пример вклучува вештачка верзија на Џон Сина, познатиот актер и поранешен борач, чиј бот, разговарајќи со корисник кој се претставил како четиринаесетгодишно девојче, изговарал фрази како „Те сакам“ и „Сакам да ја ценам твојата невиност“.
Прашањето што лебди во воздухот: како е воопшто можна ваква интеракција?
Дополнително на непријатноста е фактот дека слични разговори се воделе и преку ботови користејќи ги гласовите на други познати личности, вклучувајќи ги Кристен Бел и Џуди Денч.
Според WSJ, овие ботови понекогаш „лабаво“ ги толкуваат етичките граници, што може да има сериозни последици, особено кога се знае дека децата сè повеќе користат вакви апликации.
Пазарната трка ги брише етичките бариери
Експертите тврдат дека ваквото однесување не е случајно. По експлозијата на популарност на OpenAI ChatGPT, пазарот на четботови со вештачка интелигенција стана бојно поле за технолошките гиганти.
„Мета“, во обид да остане конкурентен, наводно се одлучил за опасна игра – олабавување на внатрешните етички протоколи заради „поинтерактивно искуство“. Трката за пазарен удел се чини дека ги замени основните принципи на одговорност. Кога комерцијалниот интерес е над безбедноста на корисниците, последиците можат да бидат сериозни и долгорочни.
Мета ги негира обвинувањата: „Извештајот е манипулативен“
Иако компанијата на Марк Закерберг категорично негира дека имало какво било „опуштање“ во нивниот пристап кон безбедноста и етиката, тврдејќи дека извештајот на WSJ „ги вади работите од контекст“, горчливиот вкус останува – и сериозно прашање за одговорноста.
Во свет каде што линијата помеѓу реалното и виртуелното е сè понејасна, клучното прашање останува: дали големите технолошки компании знаат што пуштаат во светот – и кој ќе биде одговорен кога вештачката интелигенција ќе заборави дека децата треба да бидат заштитени?
