Вештачката интелигенција и разните чат-ботови базирани на вештачка интелигенција не се користат само за работа, зголемување на продуктивноста, пишување есеи и решавање задачи во училиштата, туку некои создадоа врски, дури и романтични, со овој тип на технологија. Иако ова звучи како сценарио за филмот Black Mirror, девојките со вештачка интелигенција како Replica се доста популарни, а некои луѓе дури ја преминаа границата помеѓу реалниот и виртуелниот свет.
Се зголемува бројот на луѓе кои се впуштаат во разговори со вештачка интелигенција, но малкумина знаат какви опасности кријат ваквите разговори кога станува збор за безбедноста и приватноста. Многу луѓе не разбираат (ниту им е грижа) каков е односот на компаниите кои развиле вакви ботови кон приватноста, односно дали собираат податоци за корисниците, за какви податоци станува збор и што е многу важно – за што се собирани овие податоци.
Со оглед на тоа што луѓето на крајот чувствуваат поврзаност со таквите ботови, односно нивните девојки со вештачка интелигенција, почнуваат да водат разговори со нив како што би имале со вистински партнери, па им доверуваат разни приватни работи кои не се за сечии уши. Разговорите за секс или сексуални проблеми, здравствени проблеми и лекови кои ги земаат итн., им даваат на ботовите многу приватни информации и се поставува прашањето како тие ќе ги користат. Најновата анкета на Mozilla, *Privacy Not Included покажува дека поголемиот дел од ваквите романтични чат-ботови не ги исполнуваат минималните безбедносни стандарди, па дури 90 отсто од нив споделуваат или продаваат лични податоци на корисниците, додека повеќе од половина од нив не даваат опција за бришење лични податоци.
Во однос на романтичните чет-ботови и прашањата за приватност, дефинитивно треба да обрнете внимание на фактот дека најголемиот предизвик не се хакерите или безбедносните прекршувања, туку самите корисници, кои можеби дури и забораваат со кого разговараат и споделуваат лични и доверливи информации со ботови. Во еден пример споменат во овој извештај, четботот на тој начин собирал информации за името и презимето, датумот на раѓање, е-поштата, хоби и работниот статус на корисникот со кој разговарал, како и сите други луѓе што ги спомнале за време на разговор.
Од Mozilla велат дека е доста проблематично што повеќе од половина чет-ботови не даваат информации за шифрирањето, како и за начините на кои ги решаваат безбедносните проблеми и пропусти. Исто така, проблемот е што некои од таквите чет-ботови не бараат од корисниците силни лозинки, а во некои случаи дури и нема начин да се спречи вештачката интелигенција да стане насилна во разговорот.
Исто така, постојат многу непознати за начините на формирање на нивната личност, на кои модели се обучени, како и кои процедури се користат за да се спречи штетната содржина и дали корисниците можат да спречат нивните разговори да се користат за понатамошна обука на моделите со вештачка интелигенција.
