Апелите за привремено запирање на развојот на напредни системи за вештачка интелигенција обично се мотивирани од стравот од губење на контролата, но и покрај одреден напредок, недостасува вистинска имплементација.
Во изминатите неколку дена, целиот технолошки сектор се крена на нозе, откако Дарио Амодеи од Антропик, во објава на својот блог, повика на „стискање на сопирачките“ на развојот на најнапредните модели на вештачка интелигенција. Тој истакна дека во последните месеци има ненадејно забрзување на развојот бидејќи системите сè повеќе учествуваат во создавањето на сопствените следни генерации, што создава ризик од рекурзивно самоподобрување на моделите надвор од човечки надзор.
Тој дополнително предупреди на неодамнешните инциденти во кои автономни агенти извршиле произволни сајбер напади надвор од дадената рамка. На крајот, тој предложи троен план кој вклучува постојан пристап од независни проценувачи во рамките на компаниите, воспоставување заеднички безбедносни стандарди (барем во демократските земји) и меѓународна соработка за спречување на потенцијално катастрофални последици. Сепак, веќе ги слушнавме ваквите повици и предупредувања во последниве години, и на крајот, како по правило, од нив ништо не произлезе.
Различни повици за запирање или ограничување на развојот на вештачката интелигенција се појавија во неколку наврати. Првиот значаен бран беше забележан уште во јануари 2015 година, кога Институтот за иднината на животот (FLI) објави отворено писмо во кое се нагласуваат безбедноста и социјалните влијанија на технологијата. Главната причина за тој повик беше потребата системите да бидат насочени кон корисни и безбедни пред да станат премногу автономни, иако во тоа време не се зборуваше многу за алатките за вештачка интелигенција како што имаме на располагање денес.
Веројатно најпознатиот и најсеопфатен апел се одржа во март 2023 година, исто така организиран од FLI, кога повеќе од две илјади експерти, технолошки претприемачи и научници потпишаа писмо со кое се бара шестмесечен мораториум на системи за обука на понапредни од моделот GPT-4. Во тоа време, Илон Маск исто така го поддржа. Ризиците од губење на контролата врз цивилизацијата, масовното ширење на дезинформации, автоматизацијата на работните места и недостатокот на безбедносни протоколи во трката за развој на лабораториите за вештачка интелигенција беа наведени како клучни причини.
Кога станува збор за последиците, предложените мораториуми никогаш формално не стапија во сила во самата индустрија. Технолошките компании и истражувачките лаборатории продолжија да развиваат и обучуваат сè понапредни модели без пауза, посочувајќи дека едностраното запирање на напредокот би донело економска и технолошка штета или би создало геополитички застои.
Од друга страна, поканите произведоа одредени политички и јавни последици. Тие ги охрабрија владите ширум светот да го забрзаат усвојувањето на законските рамки и организирањето на глобални самити за безбедноста на вештачката интелигенција. Во меѓувреме, поставени се темелите за формирање државни институти за безбедност на системите за вештачка интелигенција и независни ревизии. Сепак, сето ова доведе, на пример, до ситуација каде што ЕУ бара одредени содржини да бидат обележани, напредните модели да бидат под дополнителна контрола, а САД воведоа правило според кое најнапредните системи (по избор) се испраќаат до властите за верификација пред објавување.
Сепак, развојот на технологијата никогаш не запрел, па се сомневаме дека ќе застане по повикот на Амодеи. Неговата иницијатива беше јавно поддржана од лидерите на конкурентските организации, како што се Сем Алтман од компанијата OpenAI и неговиот заколнат непријател Илон Маск, но никој од нив не рече дека ќе бидат првите што ќе престанат да развиваат „опасни“ модели или ќе го откажат својот LLM од следната генерација. Индустријата затоа е на уште една „пресвртница“ по која сè би можело да остане исто.
Од друга страна, коосновачот на Палантир, Џо Лонсдејл, накратко напиша на X: „Сè ќе биде во ред“. Не живејте во страв, ја имаме ситуацијата под контрола – кога првиот човек на една од најтаинствените организации во светот, која управува со неверојатна количина приватни податоци и соработува со воената индустрија, ќе каже така, навистина можеме мирно да спиеме…
