成都市青羊區舊金屬回收電（diàn）話18980010174，全球千名精英聯名（míng）呼籲：暫停GPT

成都市青羊區舊金屬回收電話18980010174,成都（dōu）91污污污廢舊（jiù）物（wù）資回收有限公司（sī）長期回收空調、變壓器、配電櫃、電腦、廢鐵、廢銅、電子電器、電線電纜、廢舊金（jīn）屬、廢舊等物（wù）資，聯係電話：13981937861，18980010174。

　　文/趙斌

　　AI領域頂尖專家和圖靈獎得主（zhǔ）約書亞·本吉（jí）奧、特斯（sī）拉首席（xí）執行官馬斯克等人千人聯名簽署公開信，呼籲暫停開發比GPT-4更強大的AI係統至少6個月，稱其“對社會和人類構成潛在風險”。

　　AI對人類究竟有風險嗎？

　　“人工智能在理論上是有可能毀滅人類的。”中國人工智能學會基礎（chǔ）專委會副主任陳誌成在接受中新社國是直（zhí）通（tōng）車采訪時表示，正是基於這種風險的（de）存在（zài），所以才製定了（le）在國際上（shàng）達成共識的三（sān）原則進（jìn）行約束。

　　第一條，不得傷害人類，或看（kàn）到人類受到傷（shāng）害而袖手旁觀。

　　第二條，必須服從人類的命令，除非（fēi）這條命令與第一條相矛盾。

　　第三條，必須保護自己，除非這種保護與（yǔ）以上兩條相矛盾。

　　馬斯克的公開信中主張，在開發強大的AI係統之前，應先確（què）認其帶（dài）來影響是積極的、風（fēng）險是可控的。

　　但是，支（zhī）持還（hái）是反對，很多（duō）大佬意見不一，已經（jīng）開始唇槍舌戰。

　　比如，LeCun（美國科學院院士、圖靈獎獲得者）、吳恩達（曾任斯坦福（fú）大學人工智能實驗室主任）、田淵棟（Facebook人工（gōng）智能研究院智能圍（wéi）棋項目負責人）等一眾AI大（dà）佬，都發文公開反對這（zhè）份“千人聯名（míng）”。

　　吳恩達表示，在GPT-4出現（xiàn）之後要求（qiú）AI訓練暫停6個月是很可怕的事情：GPT-4在教育（yù）、醫療保健、食（shí）品等領域都（dōu）有很多新（xīn）的應用，這將幫助許多人。

　　田淵棟說，“我不簽暫停令”！AI的發（fā）展就像囚徒困境：一旦開始，就沒有辦法停止或扭（niǔ）轉這一趨（qū）勢，這就是進化的必然。應該換個角（jiǎo）度繼續向前看，更好地（dì）理解 LLM（大型語言模型），適應它並利用其力量，感受熱度。

　　Meta數據科學家林致遠、英偉達AI研究科（kē）學家Jim Fan也對（duì）吳恩達觀點表示讚同。

　　國內首批（pī）深度（dù）學習工程（chéng）師（shī）、神策數據VP樂一帆在接受中新社國是直通車采訪時表示，他並不認為ChatGPT本身會像科（kē）幻電影裏演的那樣，可以（yǐ）控製甚至毀滅人類。但是他的擔心有三方麵：

　　第（dì）一，用戶惡意利用GPT獲（huò）知（zhī）危害社會（huì）或犯罪方法等問（wèn）題；

　　第二，用戶自身（shēn）分辨能力不（bú）足，被GPT蒙蔽；

　　第三，GPT的核心目（mù）標函數被別有用心的人掌握，通過操縱GPT來挑起國際爭端等。

　　陳誌成（chéng）認為，ChatGPT本質上是基於概率統計並依賴大算（suàn）力的大數據分析行為（wéi），但並不是真正意義上（shàng）具有“理解”能力的人工智能。以現有情況來看，不可能具備像人一樣思維邏輯或學習經驗的能力來（lái）自主傷害人類（lèi），隻是按照（zhào）程序進行數據收集、梳理、分析、識別和輸出等。

　　陳誌成認為，人工智能是大趨勢，即便暫停GPT-5的研發（fā）也阻擋不了（le）人工智能的（de）發展，任何（hé）時代都有（yǒu）科技的進步（bù），這是正常現象。

　　怎樣才能把人工智能“裝進籠子”？

　　分析（xī）人士（shì）認為（wéi），人類在加快發（fā）展（zhǎn）人工智能的同時，也要把人工（gōng）智能“裝進籠子”。

　　陳誌成說，中（zhōng）國將是（shì）世界上最有效監管GPT技術應（yīng）用的國家，這不（bú）僅是基於體製優勢，關於對人工智能的監管（guǎn）及其（qí）倫理約束，中國也製定了相關規範。

　　中國國（guó）家新一（yī）代人工智能治理專業委員會於2021年9月25日發布《新一（yī）代人工智能倫（lún）理規範》，旨在將倫理道德融入人工智能全生命周期，為從事人（rén）工智能相關（guān）活動（dòng）的自然人（rén）、法（fǎ）人和其他相關機（jī）構等提供倫理指引。增強（qiáng）全社（shè）會的人（rén）工智能倫理意識與行為（wéi）自覺，積極引導負責任的人工智能研發與應用活動，促進人工（gōng）智能健康發展。

　　《新一代人工智能倫理規範》第一條即開宗明義：本規範旨在將倫理道德融入人工智能全生命（mìng）周期，促進公平、公正、和諧、安全，避免偏見、歧視（shì）、隱私和信息泄露（lù）等問題（tí）。

　　聯合國教科文組織近日也發表聲明，呼籲各國政府盡快實施該組（zǔ）織通過的首份人工（gōng）智能倫理問題（tí）全球性協議——《人工智能倫理問題建議（yì）書》。旨在促（cù）進人工智能為人類、社會、環境以（yǐ）及生態係統服（fú）務，並（bìng）預防其潛在風險。

　　該（gāi）組織總幹事阿祖（zǔ）萊說，世界需要更強有力的（de）人工智能倫理規則，這是時代的挑戰。“現在是時候在國家層（céng）麵實施這些戰略和法（fǎ）規了。我們（men）必須言出必行，確保實現《建議書》的目標（biāo）。”