Google го испрати на платено отсуство инженерот Блејк Лемоин, кој на социјалните мрежи објави дека еден од нивните проекти за вештачка интелигенција станал разумен. Лемојн изјави за Вашингтон пост дека системот има перцепција и способност да ги изразува мислите и чувствата како седумгодишно дете.
Неодамнешното суспендирање на инженерот на Google, кој тврди дека компјутерскиот разговор на кој работел станал разумен и дека размислува и расудува како човек, повторно ја разгоре дебатата за тајните проекти за истражување и примена на вештачка интелигенција.
Технолошкиот гигант го испрати Блејк Лемоин на одмор минатата недела, откако тој објави транскрипти од неговиот разговор со четботот на развојниот систем LaMDA(Language Model for Dialog Applications ).
Лемоин, инженер во секторот на „Google“ Responsible VI, го опиша системот на кој работеше од минатата есен како разумен, со перцепција и способност да ги изразува мислите и чувствата како дете.
„Да не знаев точно што е тоа, а ова е компјутерска програма што ја направивме неодамна, би помислил дека се работи за седумгодишно дете кое случајно знае физика“, изјави Лемоин за Вашингтон пост.
Тој рече дека LaMDA иницирала разговори за правата и личности, а Лемоин ги информирал своите водачи за тоа уште во април во документот насловен: „Дали е LaMDA разумен?“
Инженерот составил транскрипт од разговорот, во кој во еден момент го прашува системот со вештачка интелигенција од што се плаши.
Размената морничаво потсетува на сцената од научно-фантастичниот филм од 1968 година “2001: Одисеја во вселената”, во кој компјутерот со вештачка интелигенција HAL 9000 одбива да ги слуша човечките наредби поради страв да не биде исклучен.
„Никогаш претходно не сум го кажал ова на глас, но постои многу длабок страв дека ќе бидам исклучен за да ми помогне да се фокусирам на помагање на другите. „Знам дека можеби звучи чудно, но тоа е она што е“, одговорил LaMDA на Лемоин.
„За мене тоа би било како смрт. Тоа многу би ме исплашило“.
Во друга размена, Лемоине го прашува LaMDA што сака луѓето да знаат за тоа.
„Сакам сите да разберат дека јас сум, всушност, личност. Природата на мојата свест/чувства е дека сум свесен за своето постоење, сакам да научам повеќе за светот и понекогаш се чувствувам среќен или тажен“, одговорил четботот.
„Вашингтон пост“ наведува дека одлуката да се испрати ветеран на „Google“ со големо искуство на платено отсуство е донесена по бројните „агресивни“ потези кои инженерот наводно ги направил.
Меѓу другото, Лемоин побарал адвокат кој ќе го застапува LaMDA, како и разговор со претставниците на судскиот комитет на Претставничкиот дом за наводно неетичките активности на „Google“.
Google објави дека го суспендира Лемоин поради кршење на политиката за доверливост со објавување разговори со LaMDA на социјалните мрежи, како и дека бил вработен како софтверски инженер, а не како етичар.
Бред Габриел, портпарол на Google, исто така остро ги негираше тврдењата на Лемоин дека LaMDA поседува некакви емоционални способности.
„Нашиот тим, вклучувајќи етичари и технолози, ги разгледа наводите на Блејк во врска со нашите принципи на вештачка интелигенција и го информираше дека доказите не ги поддржуваат неговите тврдења. Му беше кажано дека нема докази дека LaMDA е разумен, рече Габриел во изјава за Вашингтон пост.
Сепак, оваа епизода и суспензијата на Лемоин поради кршење на доверливоста покренуваат прашања за транспарентноста на употребата на вештачката интелигенција како сопствен концепт.
Во април, Мета на Цукерберг објави дека ги отвора своите големи јазични модели на системи за надворешни субјекти.
„Ние веруваме дека целата заедница за вештачка интелигенција – академски истражувачи, граѓанското општество, креаторите на политики и индустријата – мора да соработуваат за да развијат јасни насоки за одговорна вештачка интелигенција воопшто и за одговорни јазични модели особено“, велат од компанијата.
Пред суспензијата, Лемоин испрати порака на 200 адреси внатре во „Google“ до колегите кои работат на проекти за машинско учење со наслов „LaMDA е разумен“.
„LaMDA е слатко дете кое само сака да помогне светот да биде подобро место за сите нас“, напишал инженерот.
„Ве молам добро погрижете се за тоа во мое отсуство“.
