自去年11月發布以來，ChatGPT掀起了一股科技熱潮。中國多家大型科技公司也積極投入研發，相繼推出生成式人工智能產品。
所謂生成式人工智能(AI)，是指基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術，例如聊天機器人ChatGPT、圖像生成工具Midjourney，百度自行研發的文心一言、阿里巴巴開發的通義千問等類ChatGPT模型，也都是生成式AI。
點擊看圖輯
意見要求不得含有顛覆國家政權內容。
《華爾街日報》：拜登政府衡量針對GhatGPT等AI工具可能的監管規則。
不過人工智能技術在給人類帶來便利的同時也引發了諸多擔憂。首先是信息泄露和合規風險，其次是內容剽竊和作弊風險。此外對網絡和數據安全也會產生威脅，甚至人們可能利用這種技術犯罪或傳播虛假信息。
面對人工智能帶來的挑戰，相應的安全技術和監管制度應該跟上，多國政府和機構已開始出手監管。
中國網信辦今天（11日）發布《生成式人工智能(AI)服務管理辦法》的徵求意見稿，以促進有關技術的健康發展及規範應用。
意見稿首先提出國家支持人工智能演算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟件、工具、計算及資源。
意見稿明確要求生成式人工智能向公眾提供服務前，應按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向當局申報安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
意見稿還要求，利用人工智能生成的內容，應當體現社會主義核心價值觀，尊重社會公德，不得含有顛覆國家政權、推翻社會主義制度、煽動分裂國家、破壞國家統一、宣揚恐怖及極端主義、宣揚民族仇恨及歧視、暴力色情資訊、虛假資訊，以及可能擾亂經濟和社會秩序的內容。不得利用算法、數據、平台等優勢實施不公平競爭。內容應當真實準確，採取措施防止生成虛假信息。
意見要求不得含有顛覆國家政權內容。
意見稿亦提到，利用生成式人工智能產品提供聊天與文本、圖像、聲音生成等服務的組織和個人，承擔生成內容生產者責任。法律、行政法規未規定的事項，由網信部門及相關主管部門給予警告、責令改正限期，如拒不改正或情節嚴重，責令暫停或終止提供服務，並處以罰款。
4月10日，中國支付清算協會發布關於支付行業從業人員謹慎使用ChatGPT等工具的倡議。倡議指出，近期ChatGPT等工具引起各方廣泛關注，已有部分企業員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數據泄露等風險。
倡議提出，支付行業從業人員要遵守所在地區的網絡使用規定，正確認識ChatGPT等工具的機遇和風險，全面評估使用ChatGPT等工具處理工作內容的風險，依法合規使用ChatGPT等工具。
與此同時，美國也有大動作。
據《華爾街日報》4月11日報道，出於對AI技術可能造成危害的擔憂，拜登政府已開始研究是否需要對ChatGPT等AI工具進行審查。作為潛在監管手段的第一步，美商務部當天正式就相關問責措施公開徵求意見，包括新AI模型在發布前是否應該通過認證程序等問題。
《華爾街日報》：拜登政府衡量針對GhatGPT等AI工具可能的監管規則。
美國國家電信和信息管理局負責人艾倫戴維森表示，「我們知道，我們需要設置一些護欄，以確保它們能夠被負責任地使用。」這些意見將在未來60天內被接受，將用於幫助向美國政策制定者提供有關如何處理人工智能的建議。他補充說，他所在機構的法律職責包括就技術政策向總統提供建議，而不是制定或執行法規。
同時，美國AI巨頭即將齊聚，共同商議並制定AI相關安全協議。據媒體最新報道，本周三，人工智能開發領域頂尖企業將開會討論制定關於如何使用人工智能技術的標準。
其中包括，OpenAI、微軟、谷歌、蘋果、英偉達、Stability AI、Hugging Face和Anthropic等公司的代表預計都將出席此次會議。與會代表計劃討論如何以最負責任的態度繼續開發人工智能。
在此之前，意大利已率先發布ChatGPT禁令，德國監管機構緊隨其後，法國、愛爾蘭、西班牙等歐洲國家也開始考慮對AI聊天機器人採取更嚴格的監管。
毛拍手
** 博客文章文責自負,不代表本公司立場 **
