QualiZeal作為全球人工智能原生品質工程（QE）及人工智能保證合作夥伴，發布了HFS Take 5報告，題為「大規模可靠人工智能需要信任工程，而非傳統品質工程」。這次QualiZeal與HFS Research的研究，調查了來自九個行業的101位美國企業品質及科技領袖。
研究揭示企業人工智能保證差距正在擴大：人工智能投入生產的速度，較機構建立其所有權、驗證及信任措施以進行管理的速度更快。
QualiZeal與HFS Research最新研究發現，企業人工智能應用速度超越人工智能保證措施。 AP圖片
QualiZeal總裁兼行政總裁Pradeep Govindasamy表示，企業人工智能已跨越生產門檻，但保證措施未能跟上。他指出，企業需要清晰的人工智能品質所有權、專門設計的驗證，以及持續評估公平性、可解釋性、安全性及監管證據。人工智能保證必須成為一個獨立學科，建基於堅實的品質工程基礎，但專為概率性及日益自主的系統而設計。
HFS Research業務主管Hansa Iyengar表示，企業將人工智能投入生產的速度，較建立證明其運作的手段更快。她指出，其中一半企業仍使用為確定性軟件設計的框架來測試概率性人工智能。這意味他們可以證明模型準確，但未能證明其公平、可解釋或符合規定。一個無法審計或解釋的人工智能系統是一種負擔，每次發布都會增加。她強調，更多測試案例無法解決此問題，企業需要指定人工智能品質的負責人，在系統推出前根據信任評分卡對每個系統進行評分，並為品質工程提供資金，以應對其現時擴大的角色。
報告建議清晰的人工智能品質所有權、更廣泛的信任評分卡，以及與擴大職權範圍相符的品質工程投資。
QualiZeal的ValidAIte™企業人工智能保證平台，透過協助機構在人工智能生命週期中評估信任、安全、管治及合規準備情況，支持這次轉變。
QualiZeal是領先全球的人工智能原生品質工程及人工智能保證合作夥伴，為企業資訊科技及人工智能提供關鍵業務保證。公司於2021年成立，為超70家全球企業客戶提供服務，包括財富500強企業，並由全球超1,000名專業人員支援。其企業級創新生態系統包括用於人工智能保證的ValidAIte™、用於代理品質工程的QMentisAI™，以及用於信任優先人工智能開發的NexaAI。
（美聯社）
