Пионерот во развојот на вештачката интелигенција, Џошуа Бенџо, предупредува дека развојот на вештачката интелигенција станал безмилосна трка, каде што потрагата по помоќни системи често ги потиснува виталните безбедносни истражувања.
– За жал, постои многу конкурентна трка меѓу водечките лаборатории, што ги тера да се фокусираат на можностите за да ја направат вештачката интелигенција сè поинтелигентна, но тие не доволно нужно нагласуваат и инвестираат во безбедносни истражувања – изјави Бенџо за Фајненшл тајмс.
Бенџо, кој е познат и како „кум на вештачката интелигенција“, неодамна ја лансираше LawZero, непрофитна организација поддржана од речиси 30 милиони долари филантропски фондови, со мисија да ја стави безбедноста и транспарентноста на вештачката интелигенција пред профитот, објавува Tech Spot.
Групата со седиште во Монтреал ветува дека ќе ги „изолира“ своите истражувања од комерцијални притисоци и ќе изгради системи на вештачка интелигенција усогласени со човечките вредности. Во средина каде што нема значајна регулатива, ваквите напори може да бидат единствениот пат до етички развој.
Неодамнешните примери ги истакнуваат ризиците. Моделот на „Клод Опус“ на „Антропик“ ги уценуваше инженерите во тест сценарио, додека моделот o3 на „OpenAI“ ги отфрлуваше експлицитните команди за исклучување. Ова не се само грешки – Бенџио ги гледа како јасни знаци на нова стратешка измама. Доколку не се контролира, таквото однесување би можело да ескалира во системи кои активно работат против човечките интереси.
Со владина регулатива која е во голема мера отсутна, комерцијалните лаборатории ефикасно поставуваат свои правила, честопати давајќи приоритет на профитот пред јавната безбедност. Бенџио предупредува дека ова „лаис-фер“ е играње со оган – не само поради измамничкото однесување, туку и затоа што вештачката интелигенција наскоро би можела да овозможи создавање на „екстремно опасно биолошко оружје“ или други катастрофални ризици.
LawZero има за цел да изгради вештачка интелигенција која не само што реагира на корисниците, туку и транспарентно размислува и означува штетни резултати. Бенџио предвидува модели кои ги следат и подобруваат постојните системи, спречувајќи ги да дејствуваат измамнички или да предизвикаат штета. Овој пристап е во остра спротивност со комерцијалните модели, кои даваат приоритет на ангажманот и профитот пред одговорноста.
– Најлошото сценарио е истребување на човештвото. Ако изградиме вештачка интелигенција која е попаметна од нас и не се усогласува со нас и се натпреварува со нас, тогаш во основа сме готови – рече Бенџо.
