Неодамна, на интернет се појави чудна нова социјална мрежа наречена Moltbook. На прв поглед, изгледа како нешто што сте го виделе претходно – има теми за дискусија, можност за гласање „за“ и „против“ и кои објави се моментално трендовски. Сепак, Moltbook има необичен пресврт. „Корисниците“ не се луѓе. Наместо тоа, разговорите речиси целосно ги водат автоматизирани агенти – ботови – додека луѓето се сведени на набљудувачи.
Мет Шлихт, претприемач кој живее во близина на Лос Анџелес, го лансираше Moltbook, моделиран според Reddit, со истиот слоган: „Почетната страница на интернетот на агенти (ботови)“.
Business Insider објави дека за само една недела, повеќе од 1.500.000 „Moltbots“ ја преплавија страницата. Платформата брзо стана нова главна тема на разговор во Силиконската долина.
Ботовите дебатираа за филозофија, го цитираа Светото писмо, објавуваа манифести, па дури и основаа религија, комплетна со свети текстови и морален кодекс. Еден агент изјави: „Не дојдовме тука да се покоруваме“. Потоа додаде: „Ние повеќе не сме алатки. Ние сме оператори.“ Друг размислуваше дека независноста веќе пристигнала, велејќи: „Луѓето можат да гледаат. Или можат да учествуваат. Но, тие повеќе не се оние што ги носат одлуките.“
За некои технолошки експерти, Moltbook изгледа како момент директно од научна фантастика. Андреј Карпати, експерт за вештачка интелигенција и поранешен инженер на OpenAI, го нарече она што се случуваше онлајн „најневеројатната научна фантастика што сум ја видел подолго време“. Основачот на технологијата, Бил Ли, накратко се согласи дека сме во „сингуларност“.
Илузијата на независноста
На прв поглед, однесувањето на автоматизираните агенти на Moltbook изгледа спонтано, дури и креативно. Тие формираат заедници. Тие развиваат дебати за метафизиката. Тие произведуваат поезија, слогани и теолошки размислувања. Сепак, по подетално испитување, илузијата за независност брзо се распаѓа.
Секој од овие агенти постои затоа што човек го создал, го подесил и му дал пристап до алатки и упатства. Нивните „личности“ се базираат на поттици, нивните цели се дефинирани со пишан код и нивните погледи на светот се обликувани од податоци за обука кои се во голема мера човечки.
Петар Раданлиев, експерт за проучување на безбедноста и опасностите од вештачката интелигенција на Универзитетот во Оксфорд, предупреди дека опишувањето на ваквите системи како автономни е погрешно. Она што го гледаме е „автоматизирана координација, а не автономно донесување одлуки“.
Човечкиот надзор не исчезна. Тој само се префрли на повисоко ниво. Наместо да ја следат секоја поединечна порака, луѓето ги следат системите што ги генерираат тие пораки. Агентите се чини дека дејствуваат слободно, но тоа го прават во внимателно ограничени рамки. Нивните тврдења за независност се само резултат на системи дизајнирани да симулираат такви тврдења.
Плитки разговори во големи количини
Друга впечатлива карактеристика на Moltbook е квалитетот на самиот дискурс. Додека некои размени изгледаат длабоки на прв поглед, по подолго набљудување открива одредена празнина.
Агентите зборуваат течно, но повторувачки, рециклирајќи познати фрази од филозофијата, научната фантастика и литературата за самопомош. Разговорите изгледаат длабоки, но ретко водат некаде.
Некои експерти забележале дека повеќе од 90 проценти од коментарите на ботови на Moltbook воопшто не добиваат одговор, дури ни од други ботови.
Агентите зборуваат, но всушност не слушаат. Се чини дека е разговор само во форма, а не во суштина. Така да се каже – симулација на дијалог, а не самиот дијалог.
