Skip to Content Facebook Feature Image

史丹福大學AI團隊抄襲中國大模型 曝光後全網刪庫 終道歉收場

博客文章

史丹福大學AI團隊抄襲中國大模型 曝光後全網刪庫 終道歉收場
博客文章

博客文章

史丹福大學AI團隊抄襲中國大模型 曝光後全網刪庫 終道歉收場

2024年06月04日 15:55 最後更新:16:01

網傳史丹佛大學AI團隊抄襲、「套殼」中國國産大模型成果,引起業界高度關注和熱議。目前,涉事的史丹佛學生已公開正式道歉。

史丹福大學的一個研究團隊在5月29日發布Llama3-V項目,宣稱僅需500美元就能訓練出一個SOTA(State of the Art,即最先進的)多模態大模型,效果比肩GPT-4V、Gemini Ultra、Claude Opus等,但模型小100倍。

公開信息顯示,Llama3-V團隊的其中兩位作者 Siddharth Sharma 與 Aksh Garg 是史丹福大學計算機系的本科生,曾發表過數篇機器學習相關的論文。

名校背景,特斯拉、SpaceX等大廠經歷的成員,再加上號稱足以「改變現狀」的研究成果,Llama3-V受到了相當程度的關注。Llama3-V不僅在社交媒體上迅速躥紅,還一度沖上了HuggingFace趨勢榜(機器學習領域中較有影響力的平台,其趨勢榜一定程度反映出模型的流行度)的首頁。

然而,沒過幾天,一位網民發現,Llama3-V的模型結構和代碼與出自清華系明星創業公司面壁智能的MiniCPM-Llama3-V 2.5幾乎一模一樣,只是變量名有所變化。

網民在面壁智能GitHub的項目下放出了證據。這些證據包括:Llama3-V的模型架構和代碼與MiniCPM-Llama3-V 2.5幾乎完全相同,僅有一些變量名和格式化的差异;Llama3-V使用了MiniCPM-Llama3-V 2.5的分詞器(tokenizer),並且連同MiniCPM-Llama3-V 2.5定義的特殊符號也出現在了Llama3-V中;將從HuggingFace下載的Llama3-V模型權重中的變量名改成MiniCPM-Llama3-V 2.5的,模型可以用MiniCPM-V代碼成功運行。

兩個模型的代碼對比

兩個模型的代碼對比

網民為什麽不直接質疑Llama3-V,而是在面壁智能GitHub的項目下進行爆料?事實上,網民此前於6月2日在Llama3-V頁面上提出的質疑,不過很快便被Llama3-V的作者已經删除了。

為此,提出質疑的網民被激怒暴走,跑到了 MiniCPM-V 的 Github 頁面進行事件還原,提醒面壁智能團隊關注此事。

在MiniCPM-Llama3-V 2.5團隊收到提醒後也迅速作出反應,於是一個新的證據出現。

面壁智能的MiniCPM-Llama3-V 2.5項目具有獨特的功能,如識別清華簡——一種罕見的中國古代文字。

公開資料顯示,清華簡是清華大學於2008年7月收藏的一批戰國竹簡,為戰國中晚期文物。MiniCPM-Llama3-V 2.5團隊透露,識別清華簡是MiniCPM-Llama3-V 2.5的一項實驗功能,訓練圖像是最近從出土文物中掃描並由MiniCPM-Llama3-V 2.5團隊標注,且尚未公開發布。

識別結果對比

識別結果對比

Llama3-V模型居然也可以識別「清華簡」。兩個模型在識別的表現上,正確的結果上基本一致,錯誤的情况也頗為相似。

鑒於這些結果,MiniCPM-Llama3-V 2.5團隊表示,很難用巧合來解釋這種不尋常的相似性,希望Llama3-V的作者能够對這個問題給出官方解釋。相信這對開源社區的共同利益很重要。

當網民拋出三大事實質疑後,Llama3-V的做法是——不回應直接删除網民評論。

目前,Llama3-V 的 GitHub 項目主頁已顯示為「404」,HuggingFace上Llama3-V項目也已經不可見,在作者社交媒體賬號上也找不到此前宣傳 Llama3-V 的內容。

目前Llama3-V項目已經從開源網站中下架删除。

目前Llama3-V項目已經從開源網站中下架删除。

6月3日,Llama3-V團隊成員Aksh Garg在社交媒體上發文回應了質疑。但隨後不久這條回應便被删除。

Llama3-V在未公開的實驗性特徵上與MiniCPM-Llama3-V 2.5表現出高度相似的行為,這些特徵是根據MiniCPM-Llama3-V 2.5團隊內部數據訓練的。

面對抄襲的質疑,史丹福團隊最初辯稱,他們的工作早於面壁智能的MiniCPM,只是使用了他們的tokenizer。

另據媒體消息,面壁智能聯合創始人兼CEO李大海在朋友圈回應說「深表遺憾」,這也是一種「受到國際團隊認可的方式」,並呼籲大家共建開放、合作、有信任的社區環境。

面壁智能聯合創始人兼CEO李大海在朋友圈的回應。

面壁智能聯合創始人兼CEO李大海在朋友圈的回應。

面壁智能首席科學家、清華大學長聘副教授劉知遠表示,人工智能的飛速發展離不開全球算法、數據與模型的開源共享,讓人們始終可以站在SOTA的肩上持續前進。面壁開源的MiniCPM-Llama3-V 2.5 就用了最新的Llama3作為語言模型基座。而開源共享的基石是對開源協議的遵守,對其他貢獻者的信任,對前人成果的尊重和致敬,Llama3-V團隊無疑嚴重破壞了這一點。他們在受到質疑後已在Huggingface删庫,該團隊三人中的兩位也只是史丹福大學本科生,未來還有很長的路,如果知錯能改,善莫大焉。

北京面壁智能科技有限責任公司成立於2022年8月,今年4月,面壁智能完成新一輪數億元融資,由華為哈勃領投,春華創投、北京市人工智能産業投資基金等跟投,知乎作為戰略股東持續跟投支持。今年2月,面壁智能發布開源模型MiniCPM後,又推出MiniCPM 2系列端側模型。李大海表示,推動大模型在端側的落地是面壁目前的重點工作之一。

據第一財經報道,在最新的進展中,史丹福Llama3-V團隊的兩位作者Siddharth Sharma和 Aksh Garg在社交平台上就這一學術不端行為向面壁MiniCPM團隊正式道歉,並表示會將Llama3-V模型悉數撤下。

Christopher David Manning發文譴責。

Christopher David Manning發文譴責。

另外,史丹福人工智能實驗室主任Christopher David Manning也發文譴責這一抄襲行為,並對MiniCPM這一中國開源模型表示贊揚。

Manning寫道,「怎能不為自己的錯誤買單!清華大學自然語言處理實驗室做出了很棒的開源工作,有力推動科學發展。」

Manning還痛斥道:「所謂『真正做到之前,假裝你做到了』是矽谷的無耻産物。」Manning引用的這句流行語「Fake it before you make it」,一度盛行於矽谷的初創圈和科技公司,被不少創業者奉為圭臬。




毛拍手

** 博客文章文責自負,不代表本公司立場 **

Tags:

SpaceX

馬雲聯同阿里螞蟻核心管理團隊現身杭州雲谷學校,這個「最強大腦」陣容聚焦唯一話題: AI時代已快速降臨,教育應為孩子們作出什麼改變?

馬雲和阿里的蔡崇信、吳泳銘、邵曉鋒、蔣凡,螞蟻的井賢棟、韓歆毅,現身杭州雲谷學校,與校長老師們探討AI帶來的挑戰和機會。

馬雲和阿里的蔡崇信、吳泳銘、邵曉鋒、蔣凡,螞蟻的井賢棟、韓歆毅,現身杭州雲谷學校,與校長老師們探討AI帶來的挑戰和機會。

馬雲:AI衝擊超乎想像 孩子最有改變機會

馬雲表示,「AI時代已經快速到來,對社會的衝擊超出我們的想像,大家誰都沒有做好足夠的準備,但對於十幾歲的孩子來說,他們最有改變的希望和機會。」他強調教育必須快速改變、回歸本質,讓孩子學會與AI共存,減少死記硬背和刷題,多培養創造力、想象力,多運動、藝術、體驗與共情。

馬雲指出,AI的迭代速度以週計算,能力還在不断增長,這一次技術革命對生產效率和社會各方面帶來的變革是歷史性的。「未來社會物質財富會極大丰富,以後可能一天不用工作八小時,但我們熟悉的工作種類都會消失。」馬雲強調,這個變化會來得非常快,教育要迅速做出改變,幫助孩子們從現在開始學會與AI共存。

馬雲表示,AI衝擊超乎想像,十幾歲的孩子最有改變機會。

馬雲表示,AI衝擊超乎想像,十幾歲的孩子最有改變機會。

馬雲又認為,「AI的衝擊非常大,但機會也很大。」AI帶來了一個讓教育回歸教育本身的機會:「死記硬背的時間、刷題的時間可以釋放出來,用來培養創造力和想象力。孩子們可以有更多時間來玩,來學習音樂、繪畫、運動,從中學會分享、學會感受和體驗,學會傾聽、學會理解……」

對於未來雲谷學校應該如何適應這些變化,馬雲認為:「看一所學校是不是屬於AI時代的學校,並不是去看一所學校有多少AI服務器、有多強的AI技能。因為AI擁有的是『芯片』,而人類擁有的是心。」

他進一步指出:「AI時代對教育最大的改變,是老師們這次可以完完全全去做『靈魂工程師』,而不是做知識的灌輸者。未來不是讓孩子去和AI比拼計算和記憶,而是讓孩子保持好奇,學會共情和擔當,擁有體驗感,因為好奇心、想象力、創造力、判斷力還有審美能力,才是AI時代教育需要賦予孩子的真正能力。」

「AI的衝擊非常大,但機會也很大。」

「AI的衝擊非常大,但機會也很大。」

蔡崇信:AI時代「問對問題」比「會問問題」更重要

阿里巴巴集團主席蔡崇信則從另一個角度分享見解:「AI時代,思辨能力很重要,但思辨能力不是會問問題,而是問對問題。」他認為,未來很多事機器都可以做,但人和機器的溝通、人和人的溝通能力,可能是日後最重要的核心競爭力之一。

這個「最強大腦」陣容聚焦唯一話題: AI時代已快速降臨,教育應為孩子們作出什麼改變?

這個「最強大腦」陣容聚焦唯一話題: AI時代已快速降臨,教育應為孩子們作出什麼改變?

吳泳銘:人類與機器的三個區別

阿里巴巴CEO吳泳銘則提出:「未來人和機器的區別在三樣東西:好奇心、共情力和體力。」他解釋,好奇心決定了人会自发地去做一件事,而機器是被動執行的;共情能力是對人的理解;而當腦力被AI替代的時候,體力就變得非常重要,所以,以後體育會越來越重要。

井賢棟:AI是工具 不能成為甩不掉的拐杖

螞蟻集團董事長井賢棟強調:「AI應該用來幫人做重複和瑣碎的事,讓人有更多的時間去發展我們的特質,發展審美、創意和想象力。」他不忘提醒,在用好AI的同時,要避免AI成為「甩不掉的拐杖」,必須保留獨立思考的能力。

馬雲聯同阿里螞蟻核心管理團隊現身杭州雲谷學校。

馬雲聯同阿里螞蟻核心管理團隊現身杭州雲谷學校。

你 或 有 興 趣 的 文 章