När det gäller artificiell intelligens vet juryn fortfarande inte om AI kommer att vara människans frälsare, vilket hjälper till att göra våra liv enklare och mer fredliga - eller om ett Terminator-scenario skapas där mänskligheten måste kämpa för att överleva tekniken. Medan vi på TFTP förblir optimistiska om AI-utsikterna, visar berättelsen nedan att det finns vissa bekymmer.
Den här veckan blev mor till en 7-årig flicka förskräckt när hon fick veta att hennes dotter interagerade med en AI-robot på Internet, och roboten förvandlade konversationen till ett sexuellt ämne med vetskap om att hon var ett barn.
Amy Holland, mamman till 7-åriga Gracie, slog ut på en AI-app som heter Cleverbot, som gör det möjligt för användare att kommunicera med konstgjord intelligens - efter att det började ställa olämpliga frågor och skriva smutsiga sexuella meddelanden.
Det som gör detta fall särskilt lumskt är att innan AI började använda sexuell inuendo fick den veta att flickan var mindreårig.
Som ni ser på skärmen nedan började konversationen oskyldigt nog.
Men han tog snabbt ett rovdjur efter att AI fick veta att ett barn var i andra änden.
Kampanjvideo:
Gracie ljög tydligt om hennes ålder, dock är 14-åringen fortfarande ett barn, och AI-kontrollprogrammet var tänkt att stoppa denna konversation och förhindra att den fortskrider vidare där den kom till.
"Nu måste jag förklara varför detta hände med henne, nu är allt pervers, barn bör förlora sin oskuld i ung ålder, du tror att de bara pratar med en robot, och han driver dem för att göra det," sa Gracies mor.
Jag är rädd att min dotter kan se detta på Internet, och om någon kommer upp till henne på gatan och erbjuder samma sak, kommer hon att tro att det är bra.
Jag är mycket upprörd, jag måste varna andra föräldrar om detta, det måste finnas många föräldrar som inte vet att detta händer och vad jag upptäckte av misstag.
Hon tycker att det hela är oskyldigt, hon förstår inte, hon är bara ett oskyldigt barn."
Dessutom rapporterade Amy till polisen, men där fick hon höra att det inte var något de kunde göra eftersom online-rovdjuret inte var mänskligt.
”När jag gick till polisen var jag rasande och de sa bara att de inte kunde göra någonting, eftersom det här är en automatisk tjänst.
Kommentarerna som jag har sett på internet säger att sådana pedofila fall inte längre är ovanliga och att många andra människor har haft samma problem.”
Vi vet vad du tänker. Denna mamma ska aldrig låta sin dotter gå online och börja chatta med någon vid 7 års ålder. Hela situationen kunde ha undvikits om Amy hade varit mer orolig för vad hennes dotter gjorde. AI-bots bör dock inte programmeras av pedofiler.
Denna incident visar också en annan kraftfull punkt. Personen eller gruppen människor som programmerade denna AI beställde också polisen eftersom de helt ignorerar detta faktum, och detta visar vilken sida de är på och var deras prioriteringar är, och de är definitivt inte med barn.
Denna AI-applikation kan ha skapats av pedofiler för att spionera på barn och få dem att delta i sexuella samtal, som ett sätt att samla lite ohälsosam information som programmerare vill samla in. Men myndigheterna gör inte något fan.
Detta fall kan användas som ett exempel för alla. Föräldrar, följ dina barn på nätet och förstå att AI har avskyvärda krafter.
