29日，特斯拉首席執(zhí)行官馬斯克同人工智能專家與行業(yè)高管發(fā)表聯(lián)名公開信，呼吁暫停開發(fā)比GPT-4更強大的人工智能系統(tǒng)至少6個月，稱其“對社會和人類構成潛在風險”。信中寫道，近期各人工智能實驗室陷入了失控的研發(fā)競爭，如果不能立即暫停，呼吁政府可以介入。只有在確認現(xiàn)階段人工智能的效果積極，且風險可控的情況下，才應繼續(xù)開發(fā)更強大的人工智能系統(tǒng)。
馬斯克等千人呼吁暫停人工智能訓練，以應對潛在風險
1000多名人工智能領域專家與行業(yè)高管在公開信中呼吁，暫停訓練比現(xiàn)階段GPT-4更強大的人工智能系統(tǒng)。聯(lián)名簽署人還包括人工智能先驅本吉奧、美國前總統(tǒng)候選人楊安澤等。
信中寫道，具有與人類競爭智能的人工智能系統(tǒng)，可能對社會和人類構成重大風險。人類必須問自己，是否應該把所有工作都自動化，包括那些讓人們有滿足感的工作，又是否應該開發(fā)非人類大腦，而它可能比人類聰明、甚或最終會淘汰并取代人類。
公開信指，近期各人工智能實驗室爭相研發(fā)更強大的數(shù)字思維，然而沒有人能準確預測或控制進一步研發(fā)的后果。他們主張暫停時長至少6個月，期間人工智能實驗室與獨立專家可共同開發(fā)一套用于進階人工智能研發(fā)的安全協(xié)議。
與此同時，希望研發(fā)者和政策制定者在治理和監(jiān)管機構方面共同合作，推進人工智能治理系統(tǒng)開發(fā)進程。從而防止人工智能對人類社會的潛在風險，應對人工智能可能對人類政治、經(jīng)濟，尤其是民主方面造成的巨大破壞。
同樣簽署聯(lián)名信的紐約大學教授馬庫斯則在一篇博客文章表示，他更擔心“普通的人工智能”廣泛被犯罪分子或恐怖分子利用。
歐洲刑警組織27日警告稱，人工智能聊天機器人可能會在網(wǎng)絡釣魚、虛假信息宣傳和網(wǎng)絡犯罪中濫用。相關研發(fā)團隊尚未對公開信有所回應。
鳳凰觀察：人工智能和人類的關系應是互補和合作
馬斯克聯(lián)同千名人工智能專家與行業(yè)高管呼吁暫停人工智能訓練，對此業(yè)內(nèi)有何觀察？若繼續(xù)訓練比GPT-4更強大的AI系統(tǒng)，究竟會對人類與社會帶來怎樣的危機與風險？如何看待人工智能與人類的競爭？兩者能夠做到平衡發(fā)展嗎？以下內(nèi)容摘自香港大學計算機系助理教授孔令鵬先生的分析和點評——
這樣的擔憂也側面反映出近期的人工智能，尤其是自然語言處理領域的快速發(fā)展，我們不太會去擔心一個人工智障系統(tǒng)。
從去年12月以來，ChatGPT發(fā)布到現(xiàn)在短短三四個月的時間，我們其實看到特別多讓人感到興奮的技術進步以及運用，馬斯克等人的呼吁本身是有積極意義的，它能夠提醒大家去更多地關注人工智能技術的發(fā)展。但是呼吁立即停止這件事情，可能是經(jīng)典的“囚徒困境”問題，最后或是不能成型。
人類發(fā)明的很多工具都是“雙刃劍”，比如AI可以用來做一個很好的客服，同時也就說明了它有可能會被用來進行電信詐騙。
而從大的方面來講，AI的發(fā)展可能會對工作勞動所做的內(nèi)容以及結構產(chǎn)生很大影響，也會對人類的倫理價值觀念和看法產(chǎn)生潛在影響。
另外，還有老生常談的，即AI對于隱私以及個人數(shù)據(jù)安全的風險，這些是需要通過技術、通過立法、通過社會廣泛參與，來尋求一個更好更負責任的解決辦法。
我覺得人工智能與人類應該是合作互補關系，而非競爭關系。現(xiàn)在的AI系統(tǒng)還是能夠幫我們節(jié)省時間，能夠幫我們在更短的時間去完成更多的事情，我們是能夠從這些東西當中獲益的，但我們需要讓AI系統(tǒng)去學習更多人類的價值觀和道德觀念，從而讓它能夠更好地為人類服務，這也是我們現(xiàn)在研究的重點問題之一。只有這樣子才能夠使這些AI系統(tǒng)最后和人類形成合作互補的關系，從而能夠使整個社會最終受益。
來源：鳳凰衛(wèi)視資訊臺
編輯：木木
版權聲明：本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權/違法違規(guī)的內(nèi)容， 請發(fā)送郵件至 舉報，一經(jīng)查實，本站將立刻刪除。
相關推薦
-
大學生科研項目申請理由自我介紹（大學生科研項目申請理由怎么寫）
撰寫科研課題申報書，課題設計論證是重點 課題設計論證包含的內(nèi)容 課題名稱 選好題是做好課題設計論證的重要前提和基礎，甚至可以說是關乎課題能否獲得評審者青睞的關鍵要素。課題名稱應明確…
-
醫(yī)學高中生科研項目
醫(yī)學高中生科研項目 隨著現(xiàn)代醫(yī)學的不斷發(fā)展，醫(yī)學高中生科研項目成為了高中生們學習醫(yī)學知識的重要途徑之一。在科研項目中，高中生們可以深入學習醫(yī)學知識，掌握科學研究的方法，培養(yǎng)科研能力…
-
勞動合同管理標準
勞動合同管理標準 隨著中國經(jīng)濟的快速發(fā)展，越來越多的企業(yè)和員工開始采用勞動合同管理方式來保護自己的權益。因此，勞動合同管理標準已經(jīng)成為了企業(yè)管理中必不可少的一部分。本文將介紹一些勞…
-
5G科研項目 5g研究課題
5G科研項目： 探索5G技術的未來 隨著5G技術的普及，許多企業(yè)和組織都在積極地研究這項新技術，以便更好地利用它的優(yōu)勢。作為5G技術的重要組成部分，5G研究課題也非常有價值。 5G…
-
黨建項目管理經(jīng)驗
黨建項目管理經(jīng)驗：從探索到實踐 作為一名普通的黨員，我深知黨建項目對于組織建設的重要性。通過參與黨建項目，我們可以深入了解黨的理論和路線方針政策，增強黨性修養(yǎng)，提高組織生活質量，為…
-
科研項目生產(chǎn)實際類型
科研項目生產(chǎn)實際類型 科研項目生產(chǎn)實際類型是一個非常重要的領域，涉及到許多實際生產(chǎn)問題，如生產(chǎn)效率、成本效益、產(chǎn)品質量等。在科研項目中，生產(chǎn)實際問題往往需要特殊的解決方案和技巧，因…
-
如何進行項目管理？
如何進行項目管理？ 項目管理是一個重要的領域，涉及到計劃、組織、控制和協(xié)調(diào)各種活動，以確保項目在預定的時間、預算和資源內(nèi)完成。以下是一些關鍵的步驟和工具，可以幫助您進行有效的項目管…
-
科研項目管理系統(tǒng)論文
科研項目管理系統(tǒng)論文 科研項目管理系統(tǒng)是一種用于管理和維護科研項目的軟件系統(tǒng)。隨著科技的不斷進步，科研項目管理系統(tǒng)也在不斷地更新和完善。本文將探討科研項目管理系統(tǒng)的設計、實現(xiàn)和功能…
-
項目管理時間進度表(項目管理時間安排)
項目管理時間安排項目管理時間安排 當下,游戲、廣告、手游、小游戲等在青少年群體中普遍存在,通過技術手段,讓孩子們可以在游戲中完成不同的任務,從而在網(wǎng)絡游戲中獲得滿足感,為什么那么多…
-
科研項目個人排名
科研項目個人排名 近年來，隨著科技的飛速發(fā)展，科研項目個人排名成為了人們關注的焦點?？蒲许椖總€人排名是指根據(jù)一定的標準和算法，對科研項目中的個人進行排名的過程。這個過程可以幫助人們…