Umjetna inteligencija i različiti chatbotovi bazirani na AI-u ne koriste se samo za posao, povećanje produktivnosti, pisanje eseja i rješavanje zadataka u školama već su neki stvorili veze, čak i romantične, s takvom vrstom tehnologije. 

Vjenčanja s chatbotovima

Iako takvo nešto zvuči kao scenarij za film ''Crno zrcalo'', AI djevojke poput Replike prilično su popularne, a neki su ljudi čak prešli granice između stvarnog i virtuelnog svijeta te se vjenčali s botovima.

Broj ljudi koji se upušta u razgovore s umjetnom inteligencijom sve je veći, no malo ko zna kakve opasnosti kriju takvi razgovori kada su u pitanju sigurnost i privatnost. Mnogima nije jasno (niti ih je briga) kakav je odnos kompanija koje su razvile takve botove prema privatnosti, odnosno prikupljaju li podatke o korisnicima, o kakvim je podacima riječ i, što je jako važno - za što se ti podaci prikupljaju.

S obzirom na to da ljudi s vremenom osjećaju povezanost s takvim botovima, odnosno svojim AI djevojkama, s njima počinju voditi razgovore kakve bi vodili i s pravim partnericama, pa im povjeravaju različite privatne stvari koje nisu za svačije uši. 

Dobivaju informacije

Razgovorima o seksu ili seksualnim problemima, zdravstvenim problemima i lijekovima koji uzimaju i slično botovi dobivaju brojne privatne informacije te se postavlja pitanje kako će ih iskoristiti. 

Posljednje Mozillino istraživanje *Privacy Not Included pokazuje da većina takvih romantičnih chatbotova ne zadovoljava minimalne sigurnosne standarde te čak 90 posto njih dijeli ili prodaje lične podatke korisnika, dok više od polovice njih ne daje mogućnost brisanja ličnih podataka.

Vezano za romantične chatbotove i probleme s privatnošću, svakako treba obratiti pažnju na to da najveći izazov ne predstavljaju hakeri ili sigurnosni propusti, već sami korisnici, koji možda i zaborave s kim razgovaraju te s botovima dijele osobne i povjerljive informacije. U jednom spomenutom primjeru u ovom izvještaju chatbot je tako prikupio informacije o imenu i prezimenu, datumu rođenja, e-mailu, hobijima i radnom statusu korisnika s kojim je razgovarao, kao i svih drugih osoba koje su spomenuli tokom razgovora.

Iz Mozille kažu kako je prilično problematično to što više od polovice chatbotova ne daje informacije o enkripciji, kao i načinima na koje rješavaju sigurnosne probleme i ranjivosti. Također, problem je i što dio takvih chatbotova od korisnika ne traži snažne lozinke, a nekim slučajevima čak nema ni načina na koji bi moglo spriječiti umjetnu inteligenciju da u razgovoru postane nasilna.

Puno nepoznanica

Puno je nepoznanica i o načinima na koji se njihova osobnost formira, na kojim su modelima trenirane, kao i kakve se procedure koriste za sprečavanje štetnog sadržaja te mogu li korisnici spriječiti da se njihovi razgovori koriste za daljnje treniranje AI modela, piše Zimo.