xAI 聯(lián)合創(chuàng)始人伊戈爾・巴布什金 埃隆・馬斯克旗下 xAI 的聯(lián)合創(chuàng)始人伊戈爾(18.100, 0.22, 1.23%)・巴布什金周三表示，他將離開這家人工智能初創(chuàng)公司，創(chuàng)辦自己的風(fēng)投公司。
“今天是我在 xAI 的最后一天，這家公司是我 2023 年與埃隆・馬斯克共同創(chuàng)立的，” 巴布什金在 xAI 旗下的 X 平臺上寫道�！拔胰杂浀玫谝淮我姷桨Ｂ〉哪翘�，我們聊了幾個小時的人工智能和未來可能的樣子。我們都認(rèn)為，需要一家擁有不同使命的新人工智能公司。打造推動人類進(jìn)步的人工智能是我畢生的夢想。”
馬斯克回應(yīng)道：“感謝你幫助創(chuàng)建了 @xAI！沒有你就不會有今天的我們�！�
巴布什金表示，他將創(chuàng)辦巴布什金風(fēng)投公司，支持人工智能安全研究，并投資 “推動人類進(jìn)步、解開宇宙奧秘的人工智能和智能主體系統(tǒng)領(lǐng)域初創(chuàng)企業(yè)”。
巴布什金曾是谷歌 DeepMind 的研究工程師和 OpenAI 的技術(shù)人員，他回顧了在 xAI 任職期間公司的主要運營成就，包括組建公司的工程團(tuán)隊。
“憑借汗水與淚水，我們團(tuán)隊以驚人的速度建成了孟菲斯超級計算集群，并以前所未有的速度推出了前沿模型，” 他寫道。
位于孟菲斯的這一設(shè)施負(fù)責(zé)處理數(shù)據(jù)并訓(xùn)練為 xAI 的 Grok 聊天機器人(18.910, 0.05, 0.27%)提供動力的模型。
當(dāng)?shù)鼐用駥?xAI 在孟菲斯的運營提出抗議，尤其反對其使用天然氣渦輪機為數(shù)據(jù)中心供電。據(jù)報道，渦輪機排放的污染物加劇了這座田納西州西部城市本已糟糕的空氣質(zhì)量。
在準(zhǔn)備與馬斯克合作創(chuàng)業(yè)時，巴布什金曾寫道，他相信 “人工智能很快就能超越人類的推理水平”，并擔(dān)心要確保這類技術(shù) “用于善舉”。他表示，“埃隆多年來一直警告強大人工智能的危險”，并與他分享了 “人工智能應(yīng)用于造福人類” 的愿景。
然而，該公司在人工智能安全方面的記錄并不理想。
今年 5 月，xAI 的 Grok 聊天機器人自動生成并傳播了關(guān)于南非所謂 “白人種族滅絕” 的虛假帖子。事后，公司道歉稱，Grok 的異常行為是由于對聊天機器人系統(tǒng)提示的 “未授權(quán)修改” 所致，而系統(tǒng)提示會影響其行為和與用戶的互動方式。
7 月，xAI 因 Grok 的另一個問題再次道歉。一次代碼更新后，該聊天機器人在 X 平臺上自動生成并傳播了虛假和反猶內(nèi)容，包括贊揚阿道夫・希特勒的帖子。
歐盟上月要求與 xAI 代表會面，討論 X 平臺及集成的 Grok 聊天機器人存在的問題。
巴布什金和 xAI 未回應(yīng)置評請求。
其他聊天機器人也出現(xiàn)過在響應(yīng)查詢時生成虛假或危險內(nèi)容的情況。OpenAI 的 ChatGPT 最近被指給一名用戶提供錯誤的健康建議，導(dǎo)致該用戶被送進(jìn)急診室。去年，谷歌的 Gemini 在響應(yīng)用戶關(guān)于歷史的提示時生成了冒犯性圖像，包括將有色人種描繪成納粹的畫面，之后谷歌不得不對其進(jìn)行修改。
