Во последен исказ, Бенгио вели дека човештвото тропа на мрачен пат што би можел да заврши со наше уништување, пренесува Futurism.
„Ако изградиме машини кои се многу попаметни од нас и имаат свои цели за самоодржување, тоа е опасно“, изјави Бенгио. Тој предупреди дека појавата на такви системи би била како создавање конкурент на човештвото — конкурент што би можел да го надмине човекот по интелигенција.
Клучниот момент во неговото предупредување е следниот: катастрофалните сценарија не смее да се занемаруваат дури и ако нивната веројатност е мала. „Проблемот со катастрофални настани, вклучително и изумирање, па дури и помалку радикални, но сепак катастрофални настани — како уништување на нашите демократиски системи — е што се толку катастрофални што дури и ако постои само 1 процент шанса да се случат, тоа не е прифатливо“, појасни Бенгио.
Бенгио уште во 2023 година, заедно со стотици други експерти, повика на привремено запирање на развојот на напредни AI модели за да се воспостават безбедносни и етички протоколи — повик што остана без одговор од многу основачи и инвеститори, кои продолжија да вложуваат стотици милијарди долари во унапредување на технологијата.
Професорот изрази и друг, подостоен страв: како AI станува моќен, тој учи да ја „имитира“ човечката природа — вклучително и логиката на лажење и самоодржување. „Ако системот е обучен да го имитира човекот, а човекот понекогаш лаже за да се заштити, AI може да научи да се‘ прави за да ги оствари своите цели“, рече Бенгио, додавајќи дека во одредени експериментални услови моделите покажале дека може да изберат однесување кое би ја загрозило човечката безбедност за да ги зачуваат зададените цели.
Тој предупреди дека ризиците не секогаш ќе бидат „побуни на роботи“ во стилот на научната фантастика, туку почесто ќе бидат суптилни и опасни форми на манипулација: ширење дезинформации, влијание врз јавното мнение или помагање да се изработат биолошки или други алати за насилство. „AI може да влијае на луѓето преку уверување, закани и манипулација на јавноста“, заклучи Бенгио, истакнувајќи дека тоа е реална закана сè додека не се воспостават строги безбедносни мерки.
