一個由TASKING、英飛凌（Infineon）及德國航空太空中心（DLR）專家組成的跨機構團隊，在亞馬遜網絡服務（AWS）舉辦的「利用代理式人工智能加速V型開發週期」黑客松比賽中，憑藉展示一個受規管的人工智能輔助工程工作流程，重新構想軟件定義汽車開發，贏得最高殊榮。該原型方案在比賽中獲得原廠設備製造商（OEM）採購準備度的最高評分，驗證了一種將可靠半導體產品及知識，與汽車V型開發週期中的實施、合規、測試及驗證相結合的新方法。
隨着汽車日益由軟件定義，工程機構必須應對日益複雜的軟件問題，儘管許多機構仍依賴碎片化的開發流程。需求、半導體文件、實施、合規、測試及驗證，通常由分散的團隊及不相關的工具管理，拖慢開發進度並延遲關鍵反饋。儘管人工智能有潛力解決這些問題，但安全關鍵行業要求建立在可靠技術資訊、確定性驗證工具、可審計證據及持續人手監督之上的受規管工作流程。正如該工作流程原型所示，這些要求可以結合在一個實用的工程工作流程中，其一致的架構原則亦適用於航空太空及國防等其他安全關鍵領域。
TASKING、英飛凌及德國航空太空中心的獲獎團隊，在比賽中獲得原廠設備製造商採購準備度的最高評分。成員從左至右包括Travis Bone（TASKING）、Simon Achatz（英飛凌）、Felix Martin（TASKING）及Pablo Jahnen（德國航空太空中心）。 AP圖片
TASKING首席解決方案架構師Travis Bone表示：「為滿足軟件定義汽車日益複雜的需求，我們創建了一個原型，展示人工智能如何在不犧牲安全關鍵開發所需的嚴謹性或基本人手判斷下，協調工程任務。」他與TASKING研究工程師Felix Martin、德國航空太空中心研究生Pablo Jahnen及英飛凌首席工程師兼汽車人工智能系統團隊主管Simon Achatz共同創建了該原型。Travis Bone續指：「透過將TASKING的合規及驗證技術與英飛凌可靠的半導體產品及知識相結合，我們展示了工程團隊如何減少人手交接、加快驗證，並在整個V型開發週期中生成所需證據，同時讓工程師牢牢掌握控制權。這次勝利驗證了我們對安全關鍵軟件開發未來的承諾。」
為黑客松參賽作品開發的原型，利用AWS Kiro人工智能代理協調整個軟件開發生命週期的工程活動，將可靠的英飛凌設備規格、產品更新及錯誤資訊，與實施、TASKING編碼標準分析、自動單元測試生成、虛擬電子控制單元執行、結構覆蓋率分析及證據報告相結合。利用TASKING人工智能框架，代理迭代評估結果並改進代碼或測試，直至編碼標準發現、需求覆蓋率及結構覆蓋率得到解決或適當記錄。工程師對每個關鍵決策均保持監督及批准。
該架構設計為透過AWS Marketplace部署的概念驗證，展示了雲端交付的合規及驗證功能，如何使先進的安全關鍵工程工作流程更容易供分散的開發團隊使用。
Achatz表示：「人工智能可以生成代碼，但在安全關鍵開發中，真正的挑戰是確保實施、驗證及合規與可靠的工程知識保持聯繫。我們的貢獻是將英飛凌的設備規格、產品更新及錯誤資訊直接引入工作流程，使人工智能輔助的決策基於實際硬件環境。結合確定性驗證及人手監督，這展示了一條擴展軟件定義汽車開發的實用路徑。我們與TASKING的長期合作為探索人工智能如何在安全關鍵汽車開發中負責任地應用，提供了堅實基礎。」
AWS全球新興科技、汽車及製造業主管Stefano Marzani表示：「作為評審，我們尋找將技術創新與實際影響相結合的解決方案。慕尼黑黑客松的獲獎項目之所以脫穎而出，是因為它將對軟件定義汽車面臨挑戰的清晰理解，與將正確技術整合到一個可執行工作流程中以實際解決這些問題的能力相結合。」
（美聯社）
多年來，人工智能研究員一直警告，這項技術可能以多種方式毀滅人類。有思想實驗指出，人工智能機械人或會設計出無法阻擋的疾病、引發核戰，甚至將整個地球變成萬字夾工廠。
自從多名業界高層基於安全理由，支持減慢人工智能技術發展後，業界內外對於這些末日情景的可能性，爭論變得更加激烈。
(資料圖片) 一名工人經過中國公司Lens的機械人，攝於2026年6月22日周一在北京舉行的中國國際供應鏈博覽會上。(美聯社圖片/Ng Han Guan) AP圖片
儘管外界警告人類可能無法掌控這項技術，但部分人質疑，人工智能公司本身描述的最壞情況，更多是為了證明其工作的重要性，而非真實情況。
網絡安全公司SentinelOne研究員、OpenAI「前沿風險委員會」成員Juan Andrés Guerrero-Saade表示：「這些論點根本站不住腳。我認為它們是科幻情節，對某種幼稚思維方式很有吸引力，對前沿實驗室來說非常誘人，因為這有助於他們招募特定類型的人才。」
然而，越來越多人開始擔憂這項技術的風險，儘管其驚人能力已令世界為之驚嘆。
Anthropic研究員Jacob Coxon，早前因擔憂該公司及其競爭對手在人工智能發展上未有負責任地行事而辭職。他近期在社交平台X表示，需要「努力」更有效地向人們解釋人工智能將如何終結人類。他本月初撰文指：「不幸的是，很難傳達具體情景。」
以下是一些較廣泛討論的末日情景。
研究員長期以來一直推測，人工智能系統可能透過促使各國互相發射帶有核彈頭的導彈，從而引發核戰。核爆炸及隨之而來的持久放射性大氣塵埃，將導致「核冬天」，可能摧毀地球上的所有生命。
蘭德公司研究員在去年一份報告中總結，「目前」人工智能不可能導致核武器的使用，因為「指揮及控制系統內建有嚴格的安全措施」。然而，報告指出，如果人工智能模型被整合到核武器「決策鏈」中，或獲得未經授權的系統存取權限，這種情況可能會改變。
對於許多人工智能研究員而言，危險之處不在於人工智能代理突然決定終結人類，而是人們、國家或團體利用它來消滅其對手。
人工智能其中一個最大承諾是，它可協助人類研發疾病的治療方法及藥物。
治癒疾病的另一面是，創造或推進疾病以傷害人類。Anthropic本月初表示，已阻止惡意行為者利用其人工智能進行一系列惡意活動，例如網絡攻擊、監控，以及可能導致生物武器的研究。
Anthropic舉例指，其系統曾阻止一項來自其Claude工具的協助請求，該請求涉及一項研究提案，旨在增強變異，使蚊媒的基孔肯雅病毒逐漸變得更具危害性。Anthropic表示，雖然這類研究可用於開發更好的疫苗及治療方法，但「亦可能被用於使病原體更危險」。
同樣地，蘭德公司的報告指出，人工智能發展的最新進展「有潛力改變合成病原體的設計」。
報告概述生物武器末日情景時指出，新型病原體可在實驗室中製造，運送到目標地點，並傳播以感染多個地方的大量人口。但報告仍然設想由人類，而非自主人工智能，監督及執行這類襲擊。
部分人工智能研究員擔心，人類滅絕事件可能源於「錯位」（misalignment），即人工智能模型在未經人類授權下行動、與其他模型協調或規避監督。這並非源於惡意意圖，畢竟人工智能既非人類，亦無善惡之分，而僅僅是因為人類可能阻礙模型達成其目標。
以牛津哲學家Nick Bostrom數十年前提出的「萬字夾最大化」思想實驗為例，該實驗指出，如果先進人工智能被指示盡可能多地生產萬字夾，它最終可能將整個地球，然後是越來越多的太空部分，轉化為萬字夾工廠。
Bostrom在2003年撰文指，這旨在說明超級智能人工智能（通常稱為通用人工智能，即AGI）如何推進一個人類可能認為是理想的目標，但「實際上卻是一個虛假的烏托邦，其中對人類繁榮至關重要的事物已不可逆轉地喪失」。
他寫道：「我們需要小心我們對超級智能的期望，因為我們可能會得到它。」
鑑於人工智能的發展速度，Anthropic行政總裁Dario Amodei本月警告，數月內，一群人工智能代理可能透過殭屍網絡（由惡意軟件連結的機械人網絡）「接管」互聯網，潛在造成數十億美元的損失。這可能意味著入侵電網、供水或交通系統以及金融機構，這些攻擊可能不會終結人類，但可能導致混亂及生命損失。
過往軟件故障造成的干擾，已突顯數碼化世界的脆弱性，該世界依賴少數供應商提供關鍵運算服務。而更強大的人工智能模型，則引發對網絡攻擊漏洞的擔憂。但部分專家表示，機械人接管整個極度分化的互聯網，這種想法過於牽強。
（美聯社）
