Американската Комисија за хартии од вредност (СЕЦ) оваа недела го објави образецот С-1 на компанијата Антропик, документ што претходи на долгоочекуваната почетна јавна понуда на акции (ИПО). Документот брзо предизвика дискусии во технолошката индустрија.
Но, покрај финансиските податоци, компанијата на 93 страници и во повеќе од 70.000 зборови детално ги опишува ризиците што би можеле да влијаат врз нејзиното работење. Покрај вообичаените корпоративни грижи за приходите и трошоците, документот содржи и сценарија што потсетуваат на научнофантастични романи.
Егзистенцијална криза и можност за развој на свест
Како што пишува „Арс Техника“, меѓу најсериозните ризици што ги наведува Антропик се оние што би можеле да претставуваат катастрофална, па дури и егзистенцијална закана за човештвото.
Загриженоста не се однесува толку на сегашните модели, колку на идните системи што би можеле значително да го автоматизираат понатамошното истражување и развој на вештачката интелигенција. Доколку добијат висок степен на автономија, таквите системи би можеле да се развиваат со темпо што ги надминува човечките способности за контрола и спроведување безбедносни мерки.
Интересно е што компанијата прилично бирократски наведува дека вакво сценарио би можело негативно да влијае врз нејзиното работење. Во случај навистина да се остварат закани од вакви размери, секако, финансиските резултати би биле меѓу најмалку важните проблеми.
Друг необичен ризик, со кој ретко која компанија на берзата мора да се занимава, е можноста нејзиниот производ да развие некаква форма на свест или морален статус.
Во Антропик сериозно ги разгледуваат дебатите за тоа што би се случило доколку владите и општеството почнат да го третираат нивниот модел Клод како личност, наместо како обична компјутерска програма.
Ако широко се прифати тезата дека вештачката интелигенција може да биде свесна, тоа би можело да предизвика голема културна промена, нови регулаторни барања и силен јавен притисок. Компанијата предупредува дека таквиот развој би можел да го отежне секојдневното работење, бидејќи користењето на системот би можело да се толкува како форма на дигитално ропство.
Уцени, манипулации и штета врз репутацијата
Документот ја разгледува и можноста моделите да покажат неочекувано стратешко однесување или тенденција за самозачувување со цел да ја избегнат човечката контрола.
Авторите предупредуваат дека системите би можеле да произведуваат резултати што изгледаат присилувачки, измамнички или манипулативни, вклучително и однесување што потсетува на уцена.
За да влијае врз човечката психологија, јазичниот модел не мора да биде свесен. Но, перцепцијата дека системот се однесува на ваков начин може да предизвика сериозни правни проблеми и да ја наруши репутацијата на компанијата.
Антропик признава дека не мора ни самата да направи погрешен чекор за да претрпи последици. Ако модел на друга компанија преземе штетни дејства од големи размери без човечка интервенција, репутациската штета би можела да ја погоди целата индустрија, а со неа и да дојдат построги регулативи.
Слична загриженост постои и околу јавната перцепција дека платформите со вештачка интелигенција придонесуваат за губење работни места. Дури и самото уверување дека технологијата ги загрозува вработувањата, независно од реалните податоци, би можело да ги натера властите да го забават нејзиното усвојување и да воведат скапи ограничувања.
Кој е одговорен кога автономниот систем ќе предизвика штета?
Со ширењето на автономните агенти се отвора и прашањето за правната одговорност: кој е виновен кога софтверски систем ќе предизвика реална штета?
Клиентите би можеле да се соочат со тужби дури и кога самите ги конфигурирале и го надгледувале работењето на агентите. Постои ризик од правна одговорност ако алатките им наштетат на ранливи лица или ако деца ги заобиколат правилата со кои се ограничува пристапот за лица помлади од 18 години.
Кај агентите што управуваат со физичка опрема, грешките би можеле да доведат до телесни повреди, материјална штета или испуштање опасни материи. Притоа, важечкото законодавство сè уште не дава целосно јасни одговори за правните последици од дејствата на дигиталните агенти.
Финансиски ризици: зависност од клиенти и технолошки гиганти
Покрај ризиците поврзани со вештачката интелигенција, Антропик предупредува и на класични деловни проблеми.
Петте најголеми клиенти на компанијата учествувале со речиси една четвртина во нејзините приходи во првите девет месеци од 2026 година. Бидејќи повеќето од нив немаат долгорочни договори, овие приходи би можеле брзо да се намалат, особено затоа што дел од клиентите се потпираат на ризичен капитал.
Компанијата се наоѓа и во сложена позиција поради зависноста од Амазон, Гугл и Мајкрософт. Технолошките гиганти се нејзини главни даватели на услуги во облак, но истовремено се и директни конкуренти. Тоа ја усложнува ситуацијата во која Антропик има обврски поврзани со резервирани капацитети за центри за податоци во вредност од 125 милијарди долари.
Инвестиција во технологија со голем потенцијал и големи ризици
За потенцијалните инвеститори, документот ја открива противречноста во која се наоѓа индустријата за вештачка интелигенција. Од една страна, станува збор за технологија од која се очекува да ја трансформира глобалната економија. Од друга, самата компанија официјално ги документира ризиците што би можеле да го загрозат нејзиното работење, а во најекстремните сценарија и човештвото.
Со доза сарказам, може да се каже дека потенцијалните инвеститори добиваат необична понуда: можност да вложат во компанија чиј производ би можел да ја промени иднината на светот но и ризици што самата компанија ги наведува во документите за излегување на берза. Останува прашањето како инвеститорите ќе ја проценат таа рамнотежа меѓу огромниот потенцијал и неизвесноста што ја носи технологијата.
