美國范德堡大學(Vanderbilt University)皮博迪學院2名教職員因為利用人工智能(AI)聊天機械人ChatGPT生成電郵,遭校方暫時停職。
這封電郵是由范德堡大學皮博迪學院的公平、包容及多樣性辦公室於2月16日向學生發送,提醒學生有關密歇根州立大學2月13日發生的槍擊事件,呼籲學生要互相照顧。
點擊看圖輯
Nicole Joseph用ChatGPT寫電郵遭校方暫時停職。
儘管這封電子郵件給人的感覺是友善和關懷,但在最底部,它表明它不是由人寫的。
Hasina Mohyuddin用ChatGPT寫電郵遭校方暫時停職。
Nicole Joseph第二天給學生發了一封跟進郵件,為事件道歉。
Nicole Joseph用ChatGPT寫電郵遭校方暫時停職。
該電郵以「紀念犧牲者,以此次事故為契機,我們的校園也應該為安全、包容的環境而努力」為開頭。內容說:「最近密歇根州的槍擊事件是一個悲劇性的提醒,提醒我們互相照顧的重要性,特别是在創造包容性環境方面。作為皮博迪學院校園社區,我們必須採取措施確保盡最大努力為所有人創造一個安全和包容的環境。」
問題是電郵的末尾寫著「引用自OpenAI ChatGPT」的字樣,令皮博迪學院透過ChatGPT生成電郵、而非人手寫的真相曝光,迅即引發外界爭議。
儘管這封電子郵件給人的感覺是友善和關懷,但在最底部,它表明它不是由人寫的。
收到電郵的學生感到憤怒,來密歇根州的學生卡亞特指,透過電腦來撰寫有關社區及互相照顧的訊息,而並非自己來表達心情,是令人噁心的。
隨後皮博迪學院道歉說,把AI技術用在了錯誤的地方。副院長約瑟夫(Nicole Joseph)表示:「雖然相信郵件中暗示的包容性信息,但在悲傷時期試圖通過ChatGPT進行溝通,這與學校追求的價值背道而馳。」
Hasina Mohyuddin用ChatGPT寫電郵遭校方暫時停職。
皮博迪學院表示,將調查事件,指今次發電郵並未按照該學院的常規程序,有份簽署電郵的約瑟夫及其副手毛希丁(Hasina Mohyuddin)將暫時停職。
約瑟夫停職前,再向學生發電郵,就今次辦公室使用AI寫電郵一事作出的錯誤判斷道歉。
Nicole Joseph第二天給學生發了一封跟進郵件,為事件道歉。
美國范德堡大學。
美國路易斯安那州一所中學近日爆發了一宗牽涉到AI的校園事件,一名13歲少女遭到他人使用AI技術合成虛假裸照,該少女與同學向校方尋求幫助,但未能得到及時處理,更被迫退學。
目睹男同學合成自己AI裸照
據《美聯社》報導,這起事件發生在拉福什教區學區內的一所中學。受害少女和她的朋友發現有人使用AI軟體將她們的臉部合成到裸照中,然後通過Snapchat等社交平台散布這些影像。由於該平台的訊息具有自動刪除功能,當少女向校方的輔導員和派駐校園的副警長反映時,校方以無法獲得具體證據為由,將這一事件視為學生間流傳的謠言。
校長科瑞爾(Danielle Coriell)在後續的懲戒聽證會上表示,「孩子們經常說謊,並夸大事實」,這一說法引發了家長的不滿。由於校方未採取進一步行動,受害少女在校期間持續遭到同學的嘲笑和羞辱,這使她的心理壓力逐漸增加。
情況在放學後的校車上發生了變化,少女親眼看到一名男同學在手機上展示了她的AI生成裸照,她當時情緒失控,立即與對方發生了肢體衝突。校方後來以違反校規為由,將這名之前在校表現良好的8年級學生退學,要求轉入其他學校;相反,當時涉嫌散布影像的男學生並未立即受到同等校內處分。
受害女學生被校方質疑說謊
少女的父親丹尼爾斯(Joseph Daniels)表示,女兒先受到影像侵害,接著被校方質疑說謊,最終因情緒失控而受到重罰,這等同於受到「二次傷害」。在轉學後,少女出現了憂鬱和焦慮症狀,一度停止進食,學業也被迫中斷。
當地警方對兩名涉嫌散播影像的男學生提出共10項指控
約3周後,當地警方根據路易斯安那州新通過的法律,對兩名涉嫌散播影像的男學生提出了共10項「非法散布AI生成影像罪」的指控。盡管司法程序已確定少女是受害者,但校方懲戒委員會一度仍堅持保留退學處分,直到家長和律師持續抗議後,學區董事會才同意讓少女復學。
美國路易斯安那州一所中學近日爆發了一起牽涉到AI的校園事件,一名13歲少女遭到他人使用AI技術合成虛假裸照。資料圖
校方要求少女留校觀察至明年1月底,期間不得參與籃球隊選拔和其他課外活動。該報導指出,這一事件凸顯了校園在應對AI生成影像等新型科技風險時,相應制度和教材的明顯滯後。專家認為,現有的2018年反霸凌指引已難以應對深偽影像帶來的影響,因此如何建立更有效的防護和處置機制已成為全球教育體系無法迴避的課題。