英國《衛報》及加拿大媒體當地時間10月8日報道,一名16歲加拿大少年利用AI聊天機械人Claude規劃登山路線,攀登加拿大不列顛哥倫比亞省一處高約1700呎(約為518.16米)的岩壁「寡婦製造者刃脊」(Widowmaker Arete),結果被引導到一條需繩索和攀岩裝備的峭壁,結果他在岩壁上受困,幸最終獲救回。救援人員警告,AI不能取代充分準備和實地判斷,盲信AI隨時會摔倒或導致重傷甚至死亡。
高里盧克被困「寡婦製造者刃脊」(Widowmaker Arete)岩壁上。
上周六(10月3日)早上8時,熱衷室內攀岩的16歲少年高里盧克(Bryce Vincent Gowryluk)乘坐纜車登上松雞山頂,途中他請Claude AI規劃一條前往附近皇冠山並回程的路線。經過碎石坡的跋涉和超過2000尺的爬升後,山頂可以360度欣賞大溫哥華地區、弗雷澤河谷和卡皮拉諾流域的壯麗景色。事實上,這段路線通常需要8小時,指南警告說不適合初學者。
面對陡峭的岩壁時,高里盧克既沒有路標、也沒有導航工具,於是他問了Claude聊天機械人,AI輕描淡寫地描述那路線「大多是簡單的板岩攀爬」,其間夾雜著「短而陡的路段」,可能包括指縫和塊狀岩面。
高里盧克既沒有路標、也沒有導航工具,於是他問了Claude聊天機械人路線。
當天,高里盧克就沿著皇冠山口向下,穿過火山口岩板,進入一個佈滿巨石的山谷,但Claude的指示讓他偏離了計劃的路線。他漸漸發現自己來到了「寡婦製造者山脊」的最後一段陡峭岩壁,要攀登這條路線需要繩索、凸輪保護器(cams)和清晰的攀登計劃。當繼續攀登後,高里盧克很快意識到地形過於陡峭,他被困在了懸崖底部,並證明Claude大錯特錯,高里盧克被點了條「盲路」,最終不得不被求援,他先給母親打了電話,然後撥打了緊急救援電話求救。
救援隊派出一架直升機,但由於離岩壁太近,直升機旋翼無法安全飛近,救援隊遂要把兩名隊員吊下去把高里盧克救上來。
加拿大警方通知了北岸救援隊,救援隊派出一架直升機,但由於高里盧克離岩壁太近,直升機旋翼無法安全飛近,救援隊遂要把兩名隊員吊下去把高里盧克救上來。隨後,他被「空運」到克利夫蘭大壩附近的救援基地
救援人員在事後的報告中表示,高里盧克偏離預定路線「非常遠」,雖然這宗事件是因AI導致迷路的首例,但加拿大不列顛哥倫比亞省西南部山區也曾發生一系列事故,救援人員發現,登山者越來越依賴不精確的地圖導航。
今年7 月,3名遊客因使用谷歌地圖規劃豪灣山脊步道路線而獲救,谷歌地圖給出的時間估算非常不準確,顯示一條通常需要14個小時才能走完的路線,錯誤預計成只需5 個多小時就能走完。
搜救隊負責人馬基(Paul Markey)警告,登山者不應依賴人工智能的指示,充分準備才是關鍵,「在今次的個案中,男孩帶了頭燈、合適的衣物、一雙好靴子、備用電池和食物。對於徒步來說,他裝備得相當齊全,但他就肯定沒有為攀岩做好準備,也沒有相應裝備。」
馬基更說,在這種特殊情況下,Claude根本從未到過男孩身處的那種地區,Claude只能一定程度上描述該地區的情況。」他認為,現代人愈來愈傾向依賴使用電子應用程式而不是地圖和指南針等技能。
救援人員坦言,AI從未到過男孩身處的那種地區,只能一定程度上描述該地區的情況。
他指,在某些情況下,現在的應用程式提供太多資訊,「我們發現,有些應用程式會在某些地區標註小徑,而作為救援隊,我們其實更希望那些小徑或路線根本不被標註出來。」馬基表示,人們看到路線,以為是不錯的步道,結果卻陷入困境。
「最重要是,不要盲目依賴AI作為路線規劃工具,它永遠無法取代良好的教育、良好的訓練及經驗,以及在現場的正確決策。」
深喉
** 博客文章文責自負,不代表本公司立場 **