“AI 教父”辛頓參與聯署公開信：科技巨頭應保證第三方評估人員工作無幹預、受保護
作者：清源 責編：清源 評論： 9 月 18 日消息，據《商業內幕》今天（18 日）晚間報道，由多家監督組織組成的 AI 評估機構論壇發佈了一封公開信，為第三方風險評估劃出一套最低條件，認為 Anthropic 和 OpenAI 等 AI 實驗室只有滿足特定的要求，才能與外部評估機構開展更有效的合作。公開信獲得數十名 AI 領域人士聯署，包括“AI 教父”計算機科學先驅傑弗裡 · 辛頓和斯圖爾特 · 羅素。本週，網絡上對 AI 風險的擔憂迅速升溫。
Anthropic CEO 達里奧 · 阿莫迪和 OpenAI CEO 薩姆 · 奧爾特曼此前都承諾向第三方評估人員開放公司內部資源並評估 AI 風險，獲得與員工同等級別的信息訪問權限。AI 評估機構論壇的公開信正是對此作出回應。“要具備公信力，駐場第三方評估人員必須保持科學客觀性、透明度和獨立性，並得到充分保護，免受被評估企業干預。”獲悉，論壇認為，第三方評估人員不僅應獲准公開透明地開展工作，還應能夠直接與公司董事會及其他擁有特殊監督權限的機構溝通，不受企業過濾或限制，並有權公開發布評估結果。
這些評估人員還應受到保護，避免因評估工作遭到 AI 實驗室報復，同時獲得與企業內部評估人員相同的系統、數據、工具和實體場所訪問權限。公開信還主張，每家 AI 實驗室都應引入觀點和專業背景不同的評估人員，以覆蓋生物科學風險、AI 失控風險等多種風險領域。本週早些時候，其他科技行業領袖也加入了這場討論。微軟 CEO 薩提亞 · 納德拉稱，公司歡迎讓第三方評估人員直接進駐 AI 企業開展評估的構想。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，AI風險優步全球範圍裁員 10%，被裁員工稱 AI 已大舉滲透日常工作北京發佈“詞元經濟十條”：高標準建設詞元工廠，推動關鍵核心技術攻關加州一縣擬議新政：用機器人替代人力的企業，應提供同酬就業機會或遣散費、培訓費“中國第一展”第 140 屆廣交會 10 月 15 日開幕，電子消費品成為絕對主力亞馬遜：AI 模型必須經過嚴格測試，確認足夠安全才能發佈法庭文件顯示，微軟應用科學主管稱 AI 行業是“史上最大規模”勞動成果盜竊
Related
相關文章
加州一縣擬議新政：用機器人替代人力的企業，應提供同酬就業機會或遣散費、培訓費
作者：清源 責編：清源 評論： 9 月 18 日消息，據外媒 TechSpot 今天（18 日）傍晚報道，美國加州的聖馬特奧縣監事會本週通過了一套“首創性”機器人許可制度，針對使用自主 AI 控制機器人的企業建立監管框架。該條例由縣監事雷 · 穆勒提出，不僅針對鋰電池起火等機器人使用過程中的潛在公共安全風險，更受關注的是如何處理機器人取代人工後對員工造成的影響。
Palantir CEO 卡普：美國前沿 AI 實驗室或在謀求“國有化”，以避開知識產權訴訟
作者：清源 責編：清源 評論： 9 月 18 日消息，Palantir CEO 亞歷克斯 · 卡普認為，Anthropic 呼籲政府加強 AI 監管，背後並不只是安全考量。當地時間 17 日，卡普接受 CNBC 採訪時指出，Anthropic 等前沿 AI 實驗室真正謀求的可能是國有化，從而獲得政府保護，應對未來因涉嫌竊取知識產權而可能面臨的大量訴訟。
智能眼鏡疑似被用來實施性騷擾行為，巴黎檢方展開刑事調查
作者：清源 責編：清源 評論： 9 月 18 日消息，據路透社今天（18 日）下午報道，針對疑似利用智能眼鏡實施性騷擾的行為，巴黎檢方展開了刑事調查，法國數據保護機構也收到企業投訴，多個國家開始重新審視這類設備帶來的隱私和安全問題。Meta 與依視路陸遜梯卡合作推出的 AI 智能眼鏡內置小型攝像頭，佩戴者可以在不易引起他人注意的情況下拍攝。
Waymo 加速亞太佈局，計劃 2028 年在新加坡提供 Robotaxi 商用服務
作者：溯波（實習） 責編：溯波 評論： 9 月 18 日消息，Alphabet 旗下自動駕駛企業 Waymo 當地時間 17 日宣佈，計劃於 2028 年在新加坡提供有償 Robotaxi 出行服務。該企業本週早些時候曾表示目標明年在日本東京實現商業化運營。
AI感知設備的隱私戰爭：手錶在錄音、眼鏡在偷拍，大眾正被悄悄“脫敏”
硅谷Tech news2026.09.18 11:23 · 來自北京全文5868字00:00 / 15:14但，真的能放心嗎？AI正在讓越來越多的隨身設備學會“感知”周圍。手錶在錄你的對話，眼鏡在拍你身邊的人，公共場合裡，你越來越難判斷自己是不是正在被記錄。
人形機器人可“自主做家務”，Figure 發佈 Helix 2.5 模型
作者：汪淼 責編：汪淼 評論： 9 月 18 日消息，人形機器人企業 Figure 今日發佈了 Helix 2.5 模型，能讓機器人“自主做家務”。從 Figure 官方介紹獲悉，Figure 在美國舊金山灣區租了 30 套房子，機器人沒有進行額外訓練，到了地方就開始自己收拾房子。Helix 2.5 的構建旨在回答一個問題 —— 類人生物能否進入一個它從未見過的家，並立即自主工作？為此，Figure 在全球人類行為數據集 Index 上預訓練了 Helix 2.5。