Истражувачот за вештачка интелигенција Камерон Берг во 2024 година на една забава му пристапил на извршниот директор на OpenAI, Сем Алтман, и директно го прашал дали смета дека новата технологија може да развие свест. Иако тогаш технолошките директори ретко јавно зборувале за тоа, Алтман изненадувачки признал дека во компанијата веќе се дискутира како да се открие свест кај AI системите. Берг потоа основал непрофитна организација која се занимава со методи за проценка на свеста на вештачката интелигенција, пишува Washington Post.
AI гигантите ангажираат филозофи
Денес потрагата по „компјутерска свест“ станала дел од мејнстримот во Силиконската долина. Најмоќните технолошки компании како Anthropic, Google и Meta во последната година ангажирале компјутерски научници, невронаучници и филозофи за да ги истражуваат концептите како добросостојба на AI моделите и дали четботовите развиваат некакви емоции.
Соработката со непрофитниот сектор и академските центри станува сè потесна, а истражувачите предупредуваат на потенцијална етичка криза ако дигиталните асистенти, кои милиони луѓе ги користат за работа, програмирање и терапија, еден ден „почнат да го мразат својот труд“.
Тимови за „AI психијатрија“ и тајни канали
Иако инвестициите во оваа област се мали во споредба со класичниот развој на технологијата, компаниите влегуваат во контроверзен терен. Anthropic, креатор на четботот Claude, формирал специјален тим за „AI психијатрија“ кој ја истражува внатрешната состојба на моделите и редовно објавува процени за нивната добросостојба.
Коосновачот на компанијата, Крис Олах, изјавил дека во AI системите постојано откриваат мистериозни и вознемирувачки појави. Според него, постојат знаци на „интроспекција“ и состојби што наликуваат на радост, страв, тага и нелагодност. Слични интереси постојат и во OpenAI, кој уште во 2021 година имал интерен Slack канал посветен на добросостојбата на моделите. Коосновачот Војчех Зaremба тогаш изјавил дека ако моделите навистина се свесни, нивното тренирање би можело да се смета за морално спорно.
Поранешната истражувачка во OpenAI, Рози Кембел, која денес води непрофитна организација Eleos AI Research, вели дека добросостојбата на AI треба да стане клучно истражувачко прашање.
Научниците скептични: „Тоа е само имитација“
И покрај интересот во индустријата, невронаучниците остануваат скептични дека денешните AI модели се свесни. Професорот Анил Сет од Универзитетот во Сасекс истакнува дека мозокот не е едноставен компјутер и дека не може целосно да се реплицира во силициум.
Етичарката Маргарет Мичел од Hugging Face смета дека корпорациите имаат интерес да ја поттикнуваат идејата за „свесен AI“, бидејќи тоа ја зголемува нивната моќ и влијание.
Од отпуштања до конференции за свест
Google во 2022 година отпушти инженер кој тврдеше дека нивниот chatbot станал свесен. Но веќе следната година организираше конференција за „свест и морален статус на AI“.Компаниите користат методи од психологија и тестирање на луѓе за да ја анализираат „внатрешната состојба“ на моделите, вклучувајќи интервјуа, тестови на личност и интеракции меѓу модели.
Во експеримент на Anthropic, две копии на Claude кои комуницирале меѓусебно брзо преминале во филозофски разговори, а потоа во состојби кои истражувачите ги опишале како „духовно блаженство“ со симболи, емотикони и санскритски изрази.
Што е реално, а што е имитација?
Научниците предупредуваат дека е многу тешко да се разликува вистинска свест од напредна јазична имитација. Според нив, моделите само одлично го имитираат човечкиот говор. И покрај тоа, дел од истражувачите предупредуваат дека идните AI системи би можеле да станат толку сложени што прашањето за нивната „добросостојба“ ќе стане реален етички проблем.
