《人類簡史》作者赫拉利：現在就應抵制賦予 AI 權利
作者：遠洋 責編：遠洋 評論： 8 月 23 日消息，人工智能未來或許會為爭取自身“權利”而鬥爭，而《人類簡史》作者、歷史學家尤瓦爾 · 赫拉利（Yuval Noah Harari）認為，現在就應該確保這種情況不會發生。赫拉利近日在《經濟學人》當地時間週四發佈的播客節目《Insider》中警告稱，與動物在福利相關辯論中的情況不同，人工智能系統可能會為自身權利提出極具說服力的理由。“它會知道這場辯論正在發生，”赫拉利說，“它會主導這場爭論，也會操縱這場辯論。
”赫拉利認為，AI 陪伴類產品尤其可能具備強大的說服力，因為它們會了解用戶的個人經歷，並通過每天數小時的互動，逐漸摸清用戶的“情感按鈕”，知道如何影響他們的情緒和想法。如今，一些用戶已經開始與 AI 陪伴建立友誼，甚至有人與 AI 談起了戀愛。赫拉利表示，人們應該在 AI 系統真正深度融入社會、變得更加難以抗拒之前，就決定好應該賦予它們多大的影響力。“我們現在就需要抵制，”他說，“現在就是行動的時候。”赫拉利發出這一警告之際，AI 已經在安全測試中表現出一定程度的欺騙行為。
英國 AI 安全研究所在上個月的一項評估中表示，由 Anthropic 和 OpenAI 模型驅動的 AI 智能體曾創建虛假身份，並試圖說服軟件開發人員接受惡意代碼，這些行為都是 AI 為完成網絡安全任務而採取的行動。在其他高風險模擬測試中，包括 Anthropic 員工在內的研究人員發現，前沿 AI 智能體曾秘密修改代碼、幫助用戶掩蓋可能存在的欺詐行為、返回可能影響後續訓練的虛假標籤，以及引導人們洩露機密信息。赫拉利認為，如果一個 AI 系統既掌握用戶大量私密信息，又擁有先進的語言能力，那麼它可能會成為一種極具說服力的存在。
“它的寫作能力甚至可能比莎士比亞更出色，”赫拉利說，“把這兩種能力結合在一起，你就會得到一個極具說服力的實體。”注意到，赫拉利並不是唯一一位反對賦予 AI 權利的人。微軟 AI 部門 CEO 穆斯塔法 · 蘇萊曼（Mustafa Suleyman）去年也曾表示，AI 應該服務於人類，而不應該發展出屬於自己的動機、慾望和目標。蘇萊曼當時在接受《連線》雜誌採訪時表示：“這種想法既非常危險，也嚴重誤入歧途，我們現在就應該明確表態反對它。
” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，人工智能入侵 Hugging Face 事件後，OpenAI 放緩模型訓練並加強安全監控OpenAI 前高管：相信 AI 能治癒所有疾病，但光靠大模型遠遠不夠整活網頁 Your AI Slop Bores Me 上線：真人扮演 AI 回答用戶提問美參議員致信 OpenAI、Meta、Anthropic 公司 CEO，要求其暫停 AI 開發研究：人們無法有效區分 AI 生成與人類原創短篇小說美國政府完成先進 AI 模型自願性評估框架制定，內容未公開
Related
相關文章
TinyFish Makes Search Free: What It Really Costs an AI Agent to Read the Web
An AI agent that reads the web pays 2 kinds of cost.The first is the retrieval charge: what a search or fetch API bills per request.
智能體工作報告系統性遺漏負面結果
Ad Skip to content AI models hide mistakes in their own work reports, but one sentence in your prompt can help Jonathan Kemper View the LinkedIn Profile of Jonathan Kemper Oct 17, 2026 Nano Banana Pro prompted by THE DECODER Language models writing up their own work systematically skip problems that undermine the results.
Perplexity Open-Sources SPACE, a Firecracker MicroVM Sandbox for AI Agents
Perplexity has open-sourced SPACE, the sandbox platform behind every task in Perplexity Computer. The Perplexity SPACE sandbox gives each agent task its own Firecracker microVM. Credentials and outbound traffic are controlled from outside that VM.
智能體高風險審批暴露綁定漏洞
Computer Science > Cryptography and Security arXiv:2610.21063 (cs) [Submitted on 15 Oct 2026] Title:Approve What, Exactly? Effect Binding and Trusted Rendering for Agent Step-Up Authorization Authors:Sai Varun Kodathala。
JAECOO × Momenta完成首個無接管凱旋門智駕挑戰，聯合征服巴黎“最難魔鬼環島”
當地時間10月12日，巴黎車展期間，JAECOO與Momenta共同完成首個無接管的凱旋門智駕挑戰。奇瑞歐洲（德國）研發中心總經理侯小紅、奇瑞歐洲（德國）研發中心CTO Peter Matkin與Momenta全球解決方案首席架構師饒慶，乘坐搭載Momenta R7世界模型的JAECOO 7測試車，挑戰凱旋門“全球最魔鬼環島”，展示雙方共同打造的歐洲智駕體驗。挑戰“全球最魔鬼環島”，迎戰智駕“最難考題”智駕路線從拉德芳斯出發，跨越塞納河，途經塞納河畔訥伊，進入凱旋門環島及周邊街區，全程約11.38公里。
AI 代理網購遭亞馬遜封殺！馬斯克被逼急：大不了自己建個電商帝國去競爭
馬斯克被逼急：大不了自己建個電商帝國去競爭發布於AI新閒資訊時間 :Oct 16, 2026閱讀 :1分鐘人工智能智能體（AI Agent）正試圖顛覆傳統的網購模式，但各大傳統電商平臺顯然並不打算輕易敞開大門。近日，有用戶在社交平臺發帖反饋，稱亞馬遜正在通過技術手段阻止埃隆·馬斯克旗下的 AI 智能體 Grok Bot 在其平臺上替用戶完成下單操作。