Минатата недела, 27-годишниот истражувач на вештачка интелигенција Џејкоб Коксон даде отказ од работа во една од водечките компании за вештачка интелигенција, Anthropic, тврдејќи дека целата индустрија се однесува неодговорно. Според него, фокусот е премногу на конкуренцијата меѓу компаниите, наместо на безбедноста.
Тој изјави дека повеќе не сака да биде дел од индустрија која ги става животите на луѓето во опасност.
Не се само поранешните вработени тие што ја алармираат јавноста. Технолошките лидери во големите компании – вклучувајќи го Anthropic, креаторот на системот за вештачка интелигенција Claude, и OpenAI, креаторот на ChatGPT и други модели – исто така повикуваат на забавување на развојот на вештачката интелигенција.
Директорот на Anthropic, Дарио Амодеи, на пример, минатиот викенд изјави дека се предомислил во врска со безбедносните мерки на вештачката интелигенција. Претходно, тој беше убеден дека е доволно компаниите да инвестираат во свои, внатрешни системи за заштита.
Сепак, тој сега има поинаков став: тој тврди дека е потребен координиран напор низ целиот сектор за да се создаде доволно простор за соодветни инвестиции во спречување на ризици. На интернет, Амодеи доби поддршка од истакнати личности како што се Iлон Маск и директорот на OpenAI, Сем Алтман, како и од Google.
Технологијата постигна огромен напредок во последните месеци, поради што предупредувањата од самите кругови на вештачка интелигенција станаа погласни и почести. Од особена загриженост е поавтономната форма на вештачка интелигенција, позната како „AI агенти“.
Ова се системи дизајнирани самостојно да извршуваат задачи за корисниците, од испраќање е-пошта до резервација на летови. Овој тип на задача не само што бара пристап до чувствителни податоци, туку веќе имало случаи каде што одредени агенти на вештачка интелигенција презеле дејствија што не биле наменети за нив.
Во најлош случај, вештачката интелигенција би можела да хакира критична инфраструктура, како што се електричните мрежи или центрите за податоци, и целосно да избега од контролата на истражувачите.
Во четврток, OpenAI објави шест нови инциденти во кои системите на вештачка интелигенција не се однесувале како што се очекувало. Во еден случај, вештачката интелигенција наводно само ги објавила своите извори на Интернет за да може подоцна да ги цитира. Моделите, исто така, спонтано ги пробиле бариерите на нивните изолирани средини и независно пристапиле до одредени веб-страници.
Реакциите беа поделени, почнувајќи од американскиот претседател Доналд Трамп. Тој ги отфрли предупредувањата како теории на заговор, тврдејќи дека САД во моментов се пред Кина во развојот на вештачката интелигенција и дека таа предност не треба да се доведува во прашање. Директорот на Мета, Марк Закерберг, има сличен став.
Германија, од друга страна, наведува дека ги сфаќа предупредувањата многу сериозно и е цврсто за мултилатерални решенија. Највисокото безбедносно тело во земјата, Советот за национална безбедност, веќе го разгледа ова прашање. Владата во Пекинг, исто така, сигнализираше дека е подготвена да воведе стандардизирани правила.
Сепак, важно е да не се создава непотребна паника. Како што истакнуваат многу експерти, сценариото во кое вештачката интелигенција ќе го уништи целото човештво е сè уште малку веројатно. Сепак, владите ширум светот треба посериозно да се подготват за сценарија што вклучуваат тешки сајбер напади или дури и употреба на биолошко оружје создадено со употреба на вештачка интелигенција.
