Научната фантастика долго замислуваше машини што размислуваат, учат, а можеби и сонуваат. Компанијата Anthropic сега истражува идеја што звучи како да е извадена од тој свет. Нејзиното најново истражување покажува како AI моделот Claude, во периодите кога не е активен, може повторно да ги прегледа претходните искуства, да ги поправи погрешните сеќавања и да го организира наученото за идните разговори.
Anthropic го нарекува овој процес „сонување“, иако тој нема многу врска со соништата што ги сонуваат луѓето. Инспирацијата, сепак, доаѓа од начинот на кој човечкиот мозок ги средува и зацврстува сеќавањата за време на спиењето. Експериментите покажуваат дека селективната меморија и редовното одржување можат да ги подобрат резултатите кај сложени задачи што траат подолго време.
Claude може да зачувува корисни информации во мемориски датотеки додека извршува задачи. Предизвикот е да се одлучи што навистина вреди да се зачува. Ако се запишува секоја интеракција, се создава хаос, а ако се пропуштат важни детали, идните сесии остануваат без потребниот контекст.
За да го тестираат овој проблем, истражувачите ја искористиле видеоиграта Pokémon Red, во која Claude требало да се движи низ светот на играта и да освојува беџови. По околу 10.000 чекори во играта, тие споредиле два модели. Постариот модел Sonnet 3.7 запишувал речиси сè што ќе сретнел, па создал 413 датотеки во 225 папки, со речиси 978.000 знаци, а сепак освоил само еден беџ.
Моделот Claude Fable 5 пристапил сосема поинаку. Тој чувал само десет датотеки на три локации, со околу 43.400 знаци, а освоил четири беџа. Неговата помала меморија им давала предност на стратегиите за движење и на лекциите научени во текот на играта, а имал и централна датотека со тековните цели и планираните чекори.
Мемориските датотеки, сепак, можат да содржат и погрешни информации, што создава проблеми кога идните сесии ќе ги прифатат како точни. Во друг експеримент, Claude погрешно ја запишал локацијата на еден Pokémon центар во близина на планината Mt. Moon. Поради тоа, по излегувањето од зградата не знаел каде се наоѓа, па постојано паѓал од една карпа и се враќал на претходната патека.
Работите ги променило токму „сонувањето“. Claude ги споредил своите белешки со оригиналниот запис од сесијата, ја открил грешката и ја поправил мемориската датотека. Со поправената информација повторно влегол во Mt. Moon и на крајот стигнал до градот Cerulean City, додека верзијата со погрешната меморија постојано се враќала на истата пречка и никогаш не го завршила патувањето.
Anthropic истражувал и дали „сонувањето“ може да претвори големи збирки документи во поврзани бази на знаење, слични на Википедија. Во еден експеримент, Claude работел со околу 350.000 интерни документи од софтверската компанија Stainless. Во текот на 128 сесии постепено изградил и дотерал своја вики-база, а неговата точност на 25 тест-прашања пораснала од 13 на 48 отсто.
Во друг експеримент, со документи поврзани со спојување на компании, Claude со помош на својата вики-база одговарал на прашања што бараат информации од повеќе документи со точност од 87 отсто. Со обично пребарување на документите, точноста била 73 отсто. „Сонувањето“ му овозможува и да ги преуреди информациите, па најпотребните податоци ги држи при рака, а помалку важните ги чува во датотеки што може да ги пребарува.
Од Anthropic признаваат дека овој пристап сè уште бара внимателно управување. Одржувањето на меморијата троши компјутерски ресурси, а премногу информации можат да ги преоптоварат идните сесии. Истражувачите сметаат дека AI агентите мора да научат кога да зачуваат информации, а кога повторно да ги преиспитаат, бидејќи подоброто управување со меморијата би можело да му помогне на Claude да се справува со сè посложени задачи.
