人工智能研究實驗室Pangram宣布推出兩款新產品,該公司以業界領先、誤報率僅萬分之一而聞名。最新文本偵測模型Pangram 4,在區分人工智能輔助寫作及人機混合內容方面有重大改進,對抗人工智能「人性化」程式的能力亦更強。公司同時發布人工智能圖像偵測模型的預覽版,內部測試準確度達99.5%。Pangram 4即日起供所有客戶使用,Pangram人工智能圖像偵測預覽版則開放予公眾試用。
這次產品發布前,Pangram獲得一輪900萬美元(約7020萬港元)的融資,由Menlo Ventures領投,Haystack、ScOp Venture Capital、Script Capital及Cadenza亦有參與。Pangram正利用這筆資金在兩方面推進:提升其核心文本偵測的準確度,以及擴展至新模式,首先是圖像偵測。
Pangram圖像偵測研究預覽儀表板 AP圖片
Pangram聯合創辦人兼行政總裁Max Spero表示:「現時完全由人工智能生成的內容無處不在,當中許多並無披露。」他指出:「Pangram的存在,是為了讓出版商、教師、記者及任何依賴真實資訊傳播的人,都能清晰辨識內容的作者。」
然而,隨著人們對人工智能寫作的熟悉程度增加,市場對能模糊人工智能生成內容真實來源的產品需求亦隨之上升。Pangram 4經過訓練,旨在應對這類「人性化」工具,即使人工智能生成的文本經過改寫、重新措辭或以其他方式修改以逃避偵測,Pangram 4仍能準確識別。新模型在偵測人機混合寫作方面亦大幅提升準確度,同時維持0.01%的誤報率。
Menlo Ventures合夥人Deedy Das從信任角度闡述這個問題。他表示:「隨著大型語言模型(LLMs)的出現,生成語言的成本降至零,而信任語言的成本則趨向無限。」他又指:「Pangram在品質方面已成為明確的第一,並獲Substack、Quora及其他平台信任,為其網站提供偵測功能。」
Pangram的人工智能圖像偵測器目前處於預覽階段,代表公司開拓新領域。Pangram聯合創辦人兼技術總監Bradley Emi表示:「人工智能圖像偵測具挑戰性,因為真實與人工智能內容經常混合,例如廣告牌上的人工智能生成廣告照片。」他續指:「這就是我們嘗試盡可能廣泛覆蓋的原因:無論是瀏覽社交媒體,抑或在法庭評估照片證據,每個人都有權知道甚麼是真實。」
Pangram 4即日起供所有客戶使用,Pangram人工智能圖像偵測器的預覽版則開放予公眾測試及提供意見。隨著生成式人工智能繼續在各種格式中普及,Pangram計劃將同樣的可靠標準應用於偵測所有模式的人工智能生成內容。
Pangram Labs是人工智能偵測系統的技術領導者,在準確度及可靠性方面超越其他偵測供應商。Pangram的偵測系統現時獲數千家企業採用。Pangram由史丹福大學的同學創立,已獲學術機構、內容審核員、記者、媒體及關注透明度的消費者採用。
(美聯社)