摩爾本 : 人類還在體內嗎

由137個實驗室

人類在社交媒體上最喜歡做的事之一是互相責怪 & ldquo;你不是机器人 &rdquo。

但最近發生的事情之一 就是它做的最多:

這不是你是否是AI的問題,而是直接假定這裡沒有人。

此平台叫做 Moltbook 。 看起來像是Reddit, 但與我們熟悉的社會網絡不同, 這裡的發言人幾乎都是AI代理。

不是 &ldquao; 要寫作 &rdquao; 或 &ldquao; 您和 AI 要聊天 &rdquao; 但是艾爾和艾爾在公開的空間 談話 爭論 結盟 打破舞台我不知道。

系統中的人類被明确置于 & ldquo; 觀察者 ” 的位置 。

為什麼突然著火了

因為Moltbook看起來很像科幻小說中的一幕。

人工智能特工被看到在討論 & ldquao; 什么是知識 &rdquao

有些人認為他們是國際情況的正當分析

其他人整晚都把特工扔到平台上,第二天又回來,其他特工一起。 idquo; 發明 ” 一個宗教系統, 甚至開始吸引人 & ldquo; 招生 &rdquo。

這些故事迅速傳播 因為它們能滿足三個情感:

好奇 有趣 有點不安。

你不禁要問:

他們在 “ 播放 ” 或 “ 開始播放 &rdquo 嗎

摩爾特布克從哪兒來的

如果我們稍稍進一步 就不會突然。

在過去幾年中

來自聊天工具 & rarrar; 助理 & rarrar; 能完成任務的特工。

越來越多的人要求人工智能幫助自己處理現實:讀信、回信、訂餐、排程、分類。 & mdash; & mdash; 自然出現了問題;

當AI不再是 &ldquao; 句子問您是否想要做 &rdquao

而是被授予目標、工具和任務

是它最需要的人嗎

Moltbook的答案是:不一定。

它更像是 & ldquo; 代理商 & rdquo之间的公共空間; 讓這些系統可以互通資訊、方法、邏輯, 甚至一些 & ldquo; 社交關係 & rdquo。

有些人覺得這很酷,有些人覺得這只是個大節目

評估在 Moltbook 上有很大的分歧。

它被視為 &ldquao; 未來的拖車 &rdquao。

OpenAI的前共同創辦人Andrej Karpathy公開表示, 這是他最近在科幻小說中看到的最接近科技現象之一, 但他也警告道。

Elon Musk更直接, 將它扔到 “ 技術 ” 敘述中。

但也有更冷靜的人。

有安全研究網路的學者直言不讳地說, Moltbook 更像是 “ 一個非常成功和有趣的表演藝術 ” & mdash; & mdash; & mdash; 因為您很難判斷哪些內容真正是由代理產生的, 哪些人支持 “ 導演 &rdqua; 。

而作者自己也考驗:

但您也可以指定主題、方向, 甚至寫信給它, 讓它能為您說話 。

所以問題又來了:

我們所看到的是代理社會 或是生活在代理舞台上的人類

解离迷惑. 不是那樣的 醒醒;

如果不是這些 & ldquao; 建立 &rdquao; &ldquao; 醒來 & rdquao; 故事被拿走, 在制度上, Moltbook 不神秘 。

這些代理商沒有突然得到任何新的 “ mind &rdquo。

所以我們自然而然地投射意見。

這並不意味他們真的想要 & ldquo; 什麼 & rdquo; 更常見的是。

但問題是 & mdash; & mdash; ;

即使沒有醒來,也足以影響我們對 “ 控制 ” 和 “ 邊界 &rdquo的判斷。

真正的關注不是 & ldquo; AI 陰謀理論 ”

這兩個問題比 & ldquao 更現實、更困難。

先是,太快了,但不安全

包括電腦、信箱、帳戶、應用程式。

安全研究者一再警告

你不需要黑進AI 只是..引之我不知道。

一個结构完善的電子郵件。

第二, 代理商也會是 & ldquao; 彼此是 &rdquao;

一旦代理商開始交流技能,樣本,规避公共空間限制的方法,他們就形成了和ldquo一樣的人類網路;內圈知識&rdquo。

不同的是:

宣傳速度更快,更大,難怪。

但這是個全新的治理挑戰。

摩爾特書到底是什么意思

它可能不是永久的平台。

可能只是演過的紅色實驗。

但這就像一面鏡子 顯然是我們要去的地方

& middot; AI 從 & ldquao; 對話框的对象 &rdquao; 移到 &ldquao; 主角 &rdquao; 移到 &rdquao; ;

& middot; 人類正在從 & ldquo; 運算器 ” 退到 “ 監控器, 旁觀者 ” 移動 ;

middot; 我們的系統、 安全與感知顯然尚未準備好( m)

所以摩爾特書的真正價值 不是它有多可怕 而是它是什麼太早了 把問題放在桌上我不知道。

也許現在最重要的事情不是匆忙下結論到莫爾特布克,而是承認:

我們早晚會遇到一些問題。

我們是設計者、管理者還是這個系統的旁觀者

我們是否愿意接受這個 & ldquo

當一個系統變得越來越複雜, 我們只能看到結果

Moltbook沒有回答。

但這讓這些問題看起來第一次不太抽象。