Откако поранешните и сегашните вработени во „OpenAI“ објавија отворено писмо во кое тврдеа дека биле замолчени затоа што покренале безбедносни прашања, еден од потписниците на писмото даде уште пострашно предвидување: дека шансите вештачката интелигенција да го уништи или катастрофално да му наштети на човештвото се поголеми од превртување паричка.
Во интервју за „The New York Times“, поранешниот истражувач на „OpenAI“, Даниел Кокотајло, ја обвини компанијата дека ги игнорира клучните ризици од вештачката општа интелигенција (AGI), бидејќи носителите на одлуки се толку заљубени во нејзините можности.
„Во „OpenAI“ се навистина возбудени за изградбата на „AGI“ и тие неуморно се тркаат за да бидат први на ова поле“, истакнува Кокотајло.
Сепак, најжестокото тврдење на Кокотајло за медиумите е дека можноста вештачката интелигенција да го уништи човештвото е околу 70 проценти – шансите што не би ги прифатиле за некој голем животен настан.
Терминот „p(doom)“, кој е AI-збор за веројатноста дека вештачката интелигенција ќе донесе пропаст на човештвото, е предмет на постојана контроверзност во светот на машинското учење.
Кокотајло изјави за „The New York Times“ дека откако се приклучил на „OpenAI“ во 2022-ра година, од него било побарано да го предвиди напредокот на технологијата и тој станал убеден не само дека индустријата ќе постигне „AGI“ до 2027-ма година, туку и дека постои голема веројатност дека тоа ќе му наштети катастрофално или дури и да го уништи човештвото.
Како што беше забележано во неодамна објавеното отворено писмо, Кокотајло и неговите колеги – кои вклучуваат поранешни и сегашни вработени во „Google DeepMind“ и „Anthropic“, како и Џефри Хинтон, таканаречениот „Кум на вештачката интелигенција“ кој го напушти „Google“ минатата година поради слични грижи – го користат своето „право да ја предупредат“ јавноста за ризиците што ги носи вештачката интелигенција.
Кокотајло станал толку убеден дека вештачката интелигенција претставува огромни ризици за човештвото што на крајот лично го повикал извршниот директор на „OpenAI“ Сем Алтман, предупредувајќи го дека компанијата треба „да се насочи кон безбедноста“ и да троши повеќе време на спроведување заштитни мерки за да ја совлада технологијата, а не да продолжи да ја прави попаметна.
Алтман се чинеше дека тогаш се согласуваше со него, според поранешениот вработен, но со текот на времето тоа стана само „мртво писмо“.
Заморен, Кокотајло ја напушти компанијата во април, кажувајќи му на својот тим во е-пошта дека „ја изгубил довербата дека „OpenAI“ ќе се однесува одговорно“ додека продолжува да се обидува да изгради вештачка интелигенција на ниво на речиси човечко.
„Светот не е подготвен, ниту ние“, напиша тој во својата е-пошта, која беше споделена со „The New York Times“.
