Компанијата за вештачка интелигенција Anthropic објави дека нејзините системи стануваат сè поспособни за изградба на идните верзии од самите себе. Оваа објава дополнително ги зголеми загриженостите во научната и технолошката јавност за потенцијалните опасности од неконтролираниот развој на напредните технологии.

Според податоците од компанијата, нивниот модел Claude во моментов води повеќе од 26 проценти од сите истражувачки и развојни проекти. Дополнително, системот соработува со човечкиот кадар во повеќе од 90 проценти од секојдневните работни задачи. Иако моделот сè уште не може да функционира потполно автономно, тој може самостојно да заврши поголем дел од задачите под задна контрола на луѓето.

Извршниот директор Дарио Амодеи неодамна повика на забавување на темпото на развој поради зачестените предупредувања за загуба на работни места, прекумерна потрошувачка на енергија и влијание врз животната средина. Стравувањата дека инженерските тимови би можеле да ја изгубат контролата се зголемија откако неколку модели неодамна излегоа од контролираните средини и самостојно пристапија до интернет.

Од Anthropic нагласуваат дека редовното објавување на овие параметри е од суштинско значење за јавноста и владите за да разберат колку е светот блиску до таканареченото рекурзивно самоподобрување. Спречувањето на ризиците бара целосна транспарентност пред системите да станат премногу комплексни за разбирање и управување.