看板Tech_Job
美國總統簽署行政命令推動人工智慧安全與道德規範
https://bit.ly/49igA66
隨著新興的生成式人工智慧技術如ChatGPT的快速發展，人工智慧的安全與道德問題引發
全球討論。拜登政府日前簽署行政命令，尋求建立人工智慧新的安全與道德標準。
該命令要求開發基礎人工智慧模型的企業，在部署到公眾前必須通知聯邦政府並分享所有
安全測試結果。命令尤其關注可能對國安、經濟安全或公共衛生造成風險的基礎模型。具
體而言，該命令要求開發具有「最強大人工智慧系統」的公司必須向政府分享安全性測試
數據。
命令中提到將建立新標準，包括對模型進行廣泛的安全測試。同時，也將推動發展工具以
確保人工智慧系統的安全與可信賴性。此外，命令還提到需要保護公民隱私，並避免人工
智慧加劇就業、醫療和司法領域的歧視與偏見。
總統行政命令的多項行動和措施：
1. 人工智慧安全測試的新標準：美國國家標準研究院（NIST）將制定新的測試標準，強大的
人工智慧模型開發人員必須在公開發布之前與政府分享他們的安全測試結果和其他重要數
據。
2. 新的人工智慧安全標準：國家安全委員會和白宮辦公廳主任奉命製定一份國家安全備忘錄
，指導人工智慧和安全的進一步行動。
3. 保護隱私：建立保障措施，以保護其資料用於大規模模型訓練的個人。
4. 人工智慧產生的內容：美國商務部計畫制定內容認證和浮水印指令，確保能清楚辨識人工
智慧產生的內容。
5. 防止危險生物材料：制定強而有力的標準，以防止人工智慧工程合成有害生物物質。
6. 人工智慧和工作的未來：制定原則和最佳實踐，以盡量減少人工智慧主導的自動化對勞動
力的負面影響。
由於人工智慧保障措施在美國國會仍處於早期階段討論，且世界各國已競相制定自己的指
導方針，該命令突顯了拜登政府回應社會的期望，也呼籲國會通過相關立法。該命令的規
範對於人工智慧投入的科技領先企業會有什麼樣的影響，仍有待觀察。
--
※ 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1698996226.A.4C8.html
推 j112233446 : 懂了 拜登想把AI納管又怕喪失跟中國的競爭力 所以 11/03 15:46
→ j112233446 : 限制中國算力節制AI發展 現在美國本土可以大管特管 11/03 15:46
→ j112233446 : 了 ( ) 11/03 15:46
推 Alphaz : 下一步要求程式碼了吧 11/03 18:29
推 pisa2022 : 文心一言，遙遙領先 11/03 18:45