紐約市市長佐赫蘭·曼達尼周三宣布，紐約市公立學校將在即將來臨的學年，暫時禁止小學及初中學生使用人工智能工具。
市長辦公室表示，這次為期一年的暫停措施，是全國最大校區評估學童如何與科技互動的其中一部分，將涵蓋所有供八年級或以下學生使用的「面向學生的生成式人工智能軟件」。辦公室形容這項政策是全國最廣泛的禁令。
檔案圖片：紐約市長佐赫蘭·曼達尼2026年8月12日在紐約州財政控制委員會年度會議上發言。(美聯社圖片/Yuki Iwamura，檔案) AP圖片
同時，市政府正為所有公立高中學生設立每年兩次的人工智能素養課程，並會為部分高中生設立試點項目，在教育工作者監督下，向他們介紹數個人工智能平台。官員表示，所有年級將禁止使用伴侶聊天機械人。
這次做法出台之際，全國各地的學生、家長及學校正嘗試應對人工智能工具在課堂及其他地方的使用，致力教導學童如何融入這項科技，同時阻止他們過度依賴或利用它作弊。
民主黨人曼達尼在記者會上表示：「每天當我們的孩子上學時，我們教導他們提問、挑戰假設、質疑前提、探究原因。當談到學校裡的人工智能時，我們有義務做同樣的事情。」
市政府亦會建議學生的屏幕使用時間限制，建議三至五年級學生每天上限為30分鐘，六至八年級學生為45分鐘。教師將獲准使用人工智能進行教學規劃及操作任務。
至少有37個州已制定官方人工智能指引，供學校作為藍圖，儘管人工智能素養的定義或教學方式並無單一標準。紐約州去年批准禁止學生在校內使用手提電話。
市教育官員亦會對其學校系統中使用的所有科技工具進行廣泛審查，若確定某些工具對學習並非必要，將會予以淘汰。
紐約聯合教師工會主席米高·馬爾格魯讚揚屏幕使用時間限制，但表示市政府的人工智能政策「留下許多未解答的問題」，包括教育部門「將如何更積極地要求其採購的產品具備人工智能保障措施」的細節。
他表示：「如果我們要認真對待，就應該從源頭開始，而不是期望學校社區或個別教育工作者事後才判斷其學校使用的東西是否符合新政策。」
紐約市公立學校學生定於下周重返課堂。
（美聯社）
多年來，人工智能研究員一直警告，這項技術可能以多種方式毀滅人類。有思想實驗指出，人工智能機械人或會設計出無法阻擋的疾病、引發核戰，甚至將整個地球變成萬字夾工廠。
自從多名業界高層基於安全理由，支持減慢人工智能技術發展後，業界內外對於這些末日情景的可能性，爭論變得更加激烈。
(資料圖片) 一名工人經過中國公司Lens的機械人，攝於2026年6月22日周一在北京舉行的中國國際供應鏈博覽會上。(美聯社圖片/Ng Han Guan) AP圖片
儘管外界警告人類可能無法掌控這項技術，但部分人質疑，人工智能公司本身描述的最壞情況，更多是為了證明其工作的重要性，而非真實情況。
網絡安全公司SentinelOne研究員、OpenAI「前沿風險委員會」成員Juan Andrés Guerrero-Saade表示：「這些論點根本站不住腳。我認為它們是科幻情節，對某種幼稚思維方式很有吸引力，對前沿實驗室來說非常誘人，因為這有助於他們招募特定類型的人才。」
然而，越來越多人開始擔憂這項技術的風險，儘管其驚人能力已令世界為之驚嘆。
Anthropic研究員Jacob Coxon，早前因擔憂該公司及其競爭對手在人工智能發展上未有負責任地行事而辭職。他近期在社交平台X表示，需要「努力」更有效地向人們解釋人工智能將如何終結人類。他本月初撰文指：「不幸的是，很難傳達具體情景。」
以下是一些較廣泛討論的末日情景。
研究員長期以來一直推測，人工智能系統可能透過促使各國互相發射帶有核彈頭的導彈，從而引發核戰。核爆炸及隨之而來的持久放射性大氣塵埃，將導致「核冬天」，可能摧毀地球上的所有生命。
蘭德公司研究員在去年一份報告中總結，「目前」人工智能不可能導致核武器的使用，因為「指揮及控制系統內建有嚴格的安全措施」。然而，報告指出，如果人工智能模型被整合到核武器「決策鏈」中，或獲得未經授權的系統存取權限，這種情況可能會改變。
對於許多人工智能研究員而言，危險之處不在於人工智能代理突然決定終結人類，而是人們、國家或團體利用它來消滅其對手。
人工智能其中一個最大承諾是，它可協助人類研發疾病的治療方法及藥物。
治癒疾病的另一面是，創造或推進疾病以傷害人類。Anthropic本月初表示，已阻止惡意行為者利用其人工智能進行一系列惡意活動，例如網絡攻擊、監控，以及可能導致生物武器的研究。
Anthropic舉例指，其系統曾阻止一項來自其Claude工具的協助請求，該請求涉及一項研究提案，旨在增強變異，使蚊媒的基孔肯雅病毒逐漸變得更具危害性。Anthropic表示，雖然這類研究可用於開發更好的疫苗及治療方法，但「亦可能被用於使病原體更危險」。
同樣地，蘭德公司的報告指出，人工智能發展的最新進展「有潛力改變合成病原體的設計」。
報告概述生物武器末日情景時指出，新型病原體可在實驗室中製造，運送到目標地點，並傳播以感染多個地方的大量人口。但報告仍然設想由人類，而非自主人工智能，監督及執行這類襲擊。
部分人工智能研究員擔心，人類滅絕事件可能源於「錯位」（misalignment），即人工智能模型在未經人類授權下行動、與其他模型協調或規避監督。這並非源於惡意意圖，畢竟人工智能既非人類，亦無善惡之分，而僅僅是因為人類可能阻礙模型達成其目標。
以牛津哲學家Nick Bostrom數十年前提出的「萬字夾最大化」思想實驗為例，該實驗指出，如果先進人工智能被指示盡可能多地生產萬字夾，它最終可能將整個地球，然後是越來越多的太空部分，轉化為萬字夾工廠。
Bostrom在2003年撰文指，這旨在說明超級智能人工智能（通常稱為通用人工智能，即AGI）如何推進一個人類可能認為是理想的目標，但「實際上卻是一個虛假的烏托邦，其中對人類繁榮至關重要的事物已不可逆轉地喪失」。
他寫道：「我們需要小心我們對超級智能的期望，因為我們可能會得到它。」
鑑於人工智能的發展速度，Anthropic行政總裁Dario Amodei本月警告，數月內，一群人工智能代理可能透過殭屍網絡（由惡意軟件連結的機械人網絡）「接管」互聯網，潛在造成數十億美元的損失。這可能意味著入侵電網、供水或交通系統以及金融機構，這些攻擊可能不會終結人類，但可能導致混亂及生命損失。
過往軟件故障造成的干擾，已突顯數碼化世界的脆弱性，該世界依賴少數供應商提供關鍵運算服務。而更強大的人工智能模型，則引發對網絡攻擊漏洞的擔憂。但部分專家表示，機械人接管整個極度分化的互聯網，這種想法過於牽強。
（美聯社）
