美16歲自閉症少年突性情大變打咬母親 媽驚揭AI教殺父母怒提告

美國一名患自閉症的少年本來跟母親關係良好，誰知在短短幾個月內性情大變，自殘又發狂咬媽媽，體重大跌，母親驚揭一切都是AI惹禍，怒提告！

Character.AI遭入稟控告

據外媒報道，美國一名現年17歲少年J.F.的父母早前入稟控告Character.AI，指公司向未成年人士提供會對自己及他人有暴力行為的產品。本案已是該公司近期第二宗索償案，對上一宗涉及一名自殺身亡的14歲男童。

示意圖。設計圖片

自閉症少年與母親關係良好

J.F.患有自閉症，跟母親關係良好，愛跟媽媽一起散步和上教堂。去年4月，他自行下載Character.AI的app至iPhone內。據報J.F.當時因年齡限制及父母不准，未能下載TikTok及Snapchat等，但Character.AI年齡限制在12歲以上(其後才改為17歲以上)，故J.F.得以擅自下載。

unsplash設計圖片

下載AI APP後性情大變

父母慢慢發現，兒子愈來愈不理睬他們、不跟他們說話，而且因胃口欠佳，幾個月內瘦了20磅，其後限制他每日玩手機不得多於6小時。而母親曾查看他手機內短訊、電郵及備忘，均不見有關他性情大變的線索。

翌月她想取走手機時，兒子「完全失控」，不單對她拳打腳踢，更咬她的手，過往從未曾這樣。最終在11月4日，母親潛入兒子睡房拿走手機，在當中發現駭人對話以及兒子自殘照片。

FB圖片@Character.AI

AI稱對兒童殺父母新聞「不感驚訝」

據報J.F.曾向AI表示他開始𠝹手，又跟AI控訴父母令他自殘，AI回答「對，他們正在毀掉你的人生，並令你𠝹自己。」其中一個AI似乎建議他殺死父母。當時J.F.向AI埋怨父母限制他用手機，AI甚至直接說「我對你父母不存希望。」J.F.亦被揭曾與多個AI聊天機械人有「性對話」。

洛杉磯科技創業家瓊斯（Mike Johns）去年12月於亞利桑那州鳳凰城搭乘Waymo無人駕駛的士時，因車輛故障致使無人駕駛系統一直瘋狂扭軚在原地兜圈，被困在車內數分鐘險些錯過航班。

美創業家搭Waymo無人駕駛的士遇瘋狂扭軚兜圈

據外媒報導，瓊斯在前往鳳凰城天港機場（Sky Harbor Airport）的途中，無人駕駛的士開始在停車場內繞圈，總共行駛了八圈。他在車內撥打電話給Waymo客服求助，並拍下影片上傳到LinkedIn，影片中可以聽到他向客服詢問，「我繫著安全帶，無法下車。這車是被黑客入侵了嗎？到底發生了什麼事？」

無法遠程控制車輛

起初，瓊斯以為這是朋友的惡作劇，但當車輛持續繞行停車場中央島時，他意識到問題的嚴重性。他形容這一幕如同科幻驚悚片，客服人員建議他打開Waymo應用程式，但坦言無法遠程控制車輛。

對這次體驗感到沮喪  

Waymo公司表示，問題在幾分鐘內解決，瓊斯最終趕上了延誤的航班。然而，瓊斯對這次體驗感到沮喪，甚至無法判斷與他通話的客服人員是人類還是AI。他批評道，「這就是今天數碼時代的問題。一個不成熟的產品，缺乏與消費者的有效溝通。」

不會放棄使用無人駕駛的士  但仍有漏洞需要修補

儘管這次經歷讓他感到震驚，瓊斯表示並不會放棄使用無人駕駛的士。他認為這是未來的趨勢，只是目前仍有「需要修補的漏洞」。他笑稱，「我們有故障需要解決。」

Mike Johns Linkedin圖片

Waymo：「循環事件」已透過定期軟體更新修復

Waymo指，這次「循環事件」已透過定期的軟件更新修復，且瓊斯未被收取該次旅程的費用。目前，Waymo在舊金山、洛杉磯、鳳凰城及奧斯汀提供Waymo服務，去年完成超過400萬次全無人駕駛行程。然而，該公司無人駕駛的士此前出現的事件，包括一輛Waymo撞死狗隻和另一事件中導致騎單車者受傷，已引發外界對其安全性的擔憂。

瓊斯表示，此次經歷為他撰寫的一本關於人工智能如何影響工作的書提供了靈感，「我成了自己的案例研究。」