Извршниот директор на „Антропик“, Дарио Амодеи, призна дека дури и експертите кои развиваат вештачка интелигенција не разбираат целосно како таа функционира. Во есеј објавен на неговата веб-страница, Амодеи изложи план за развој на систем што би овозможил подлабоко разбирање на моделите на вештачка интелигенција во текот на следната деценија, нешто што тој го опишува како „MPI за AI“.
Тој истакна дека дури и со едноставни задачи, како што е сумирање на финансиски документ, истражувачите не знаат точно зошто вештачката интелигенција избира одредени зборови или зошто прави грешки иако во повеќето случаи резултатот е целосно точен. Тој го нарече ова незнаење „без преседан во историјата на технологијата“ и предупреди дека загриженоста за тоа е оправдана.
Амодеи се сети дека токму поради безбедносни проблеми го напуштил OpenAI на крајот од 2020 година, заедно со неговата сестра и уште пет поранешни колеги, за да ја основа Антропик, компанија посветена на развој на побезбедни системи за вештачка интелигенција.
Неодамна, вели тој, компанијата инвестира сè повеќе и повеќе во разбирање на внатрешното функционирање на моделите со вештачка интелигенција и развивање алатки за можноста за разбирање на моделите за машинско учење и презентирање на основата за донесување одлуки за моделите за машинско учење на начин што е разбирлив за луѓето. Тој споменува експеримент во кој „црвен тим“ намерно вбризгал проблем во моделот, а повеќе „сини тимови“ успешно ја откриле грешката, користејќи и алатки за интерпретација.
Целта на Антропик, според Амодеј, не е само да развие помоќни модели на вештачка интелигенција, туку и да открие како и зошто тие работат на начинот на кој работат, пред да достигнат ниво на моќ што би можело да ги направи непредвидливи и потенцијално опасни. Тој заклучува дека човештвото има право да ја разбере технологијата што ќе ја обликува неговата иднина, пишува „Футуризам“.
