摩爾本 : 人類還在體內嗎
由137個實驗室
人類在社交媒體上最喜歡做的事之一是互相責怪 & ldquo;你不是机器人 &rdquo。
但最近發生的事情之一 就是它做的最多:
這不是你是否是AI的問題,而是直接假定這裡沒有人。
此平台叫做 Moltbook 。 看起來像是Reddit, 但與我們熟悉的社會網絡不同, 這裡的發言人幾乎都是AI代理。
不是 &ldquao; 要寫作 &rdquao; 或 &ldquao; 您和 AI 要聊天 &rdquao; 但是艾爾和艾爾在公開的空間 談話 爭論 結盟 打破舞台我不知道。
系統中的人類被明确置于 & ldquo; 觀察者 ” 的位置 。
為什麼突然著火了
因為Moltbook看起來很像科幻小說中的一幕。
人工智能特工被看到在討論 & ldquao; 什么是知識 &rdquao
有些人認為他們是國際情況的正當分析
其他人整晚都把特工扔到平台上,第二天又回來,其他特工一起。 idquo; 發明 ” 一個宗教系統, 甚至開始吸引人 & ldquo; 招生 &rdquo。
這些故事迅速傳播 因為它們能滿足三個情感:
好奇 有趣 有點不安。
你不禁要問:
他們在 “ 播放 ” 或 “ 開始播放 &rdquo 嗎
摩爾特布克從哪兒來的
如果我們稍稍進一步 就不會突然。
在過去幾年中
來自聊天工具 & rarrar; 助理 & rarrar; 能完成任務的特工。
越來越多的人要求人工智能幫助自己處理現實:讀信、回信、訂餐、排程、分類。 & mdash; & mdash; 自然出現了問題;
當AI不再是 &ldquao; 句子問您是否想要做 &rdquao
而是被授予目標、工具和任務
是它最需要的人嗎
Moltbook的答案是:不一定。
它更像是 & ldquo; 代理商 & rdquo之间的公共空間; 讓這些系統可以互通資訊、方法、邏輯, 甚至一些 & ldquo; 社交關係 & rdquo。
有些人覺得這很酷,有些人覺得這只是個大節目
評估在 Moltbook 上有很大的分歧。
它被視為 &ldquao; 未來的拖車 &rdquao。
OpenAI的前共同創辦人Andrej Karpathy公開表示, 這是他最近在科幻小說中看到的最接近科技現象之一, 但他也警告道。
Elon Musk更直接, 將它扔到 “ 技術 ” 敘述中。
但也有更冷靜的人。
有安全研究網路的學者直言不讳地說, Moltbook 更像是 “ 一個非常成功和有趣的表演藝術 ” & mdash; & mdash; & mdash; 因為您很難判斷哪些內容真正是由代理產生的, 哪些人支持 “ 導演 &rdqua; 。
而作者自己也考驗:
但您也可以指定主題、方向, 甚至寫信給它, 讓它能為您說話 。
所以問題又來了:
我們所看到的是代理社會 或是生活在代理舞台上的人類
解离迷惑. 不是那樣的 醒醒;
如果不是這些 & ldquao; 建立 &rdquao; &ldquao; 醒來 & rdquao; 故事被拿走, 在制度上, Moltbook 不神秘 。
這些代理商沒有突然得到任何新的 “ mind &rdquo。
所以我們自然而然地投射意見。
這並不意味他們真的想要 & ldquo; 什麼 & rdquo; 更常見的是。
但問題是 & mdash; & mdash; ;
即使沒有醒來,也足以影響我們對 “ 控制 ” 和 “ 邊界 &rdquo的判斷。
真正的關注不是 & ldquo; AI 陰謀理論 ”
這兩個問題比 & ldquao 更現實、更困難。
先是,太快了,但不安全
包括電腦、信箱、帳戶、應用程式。
安全研究者一再警告
你不需要黑進AI 只是..引之我不知道。
一個结构完善的電子郵件。
第二, 代理商也會是 & ldquao; 彼此是 &rdquao;
一旦代理商開始交流技能,樣本,规避公共空間限制的方法,他們就形成了和ldquo一樣的人類網路;內圈知識&rdquo。
不同的是:
宣傳速度更快,更大,難怪。
但這是個全新的治理挑戰。
摩爾特書到底是什么意思
它可能不是永久的平台。
可能只是演過的紅色實驗。
但這就像一面鏡子 顯然是我們要去的地方
& middot; AI 從 & ldquao; 對話框的对象 &rdquao; 移到 &ldquao; 主角 &rdquao; 移到 &rdquao; ;
& middot; 人類正在從 & ldquo; 運算器 ” 退到 “ 監控器, 旁觀者 ” 移動 ;
middot; 我們的系統、 安全與感知顯然尚未準備好( m)
所以摩爾特書的真正價值 不是它有多可怕 而是它是什麼太早了 把問題放在桌上我不知道。
也許現在最重要的事情不是匆忙下結論到莫爾特布克,而是承認:
我們早晚會遇到一些問題。
我們是設計者、管理者還是這個系統的旁觀者
我們是否愿意接受這個 & ldquo
當一個系統變得越來越複雜, 我們只能看到結果
Moltbook沒有回答。
但這讓這些問題看起來第一次不太抽象。
