xAI 聯(lián)合創(chuàng)始人伊戈爾・巴布什金 埃隆・馬斯克旗下 xAI 的聯(lián)合創(chuàng)始人伊戈爾(18.100, 0.22, 1.23%)・巴布什金周三表示，他將離開這家人工智能初創(chuàng)公司，創(chuàng)辦自己的風(fēng)投公司。
“今天是我在 xAI 的最后一天，這家公司是我 2023 年與埃隆・馬斯克共同創(chuàng)立的，” 巴布什金在 xAI 旗下的 X 平臺上寫道。“我仍記得第一次見到埃隆的那天，我們聊了幾個小時的人工智能和未來可能的樣子。我們都認(rèn)為，需要一家擁有不同使命的新人工智能公司。打造推動人類進(jìn)步的人工智能是我畢生的夢想。”
馬斯克回應(yīng)道：“感謝你幫助創(chuàng)建了 @xAI！沒有你就不會有今天的我們。”
巴布什金表示，他將創(chuàng)辦巴布什金風(fēng)投公司，支持人工智能安全研究，并投資 “推動人類進(jìn)步、解開宇宙奧秘的人工智能和智能主體系統(tǒng)領(lǐng)域初創(chuàng)企業(yè)”。
巴布什金曾是谷歌 DeepMind 的研究工程師和 OpenAI 的技術(shù)人員，他回顧了在 xAI 任職期間公司的主要運(yùn)營成就，包括組建公司的工程團(tuán)隊。
“憑借汗水與淚水，我們團(tuán)隊以驚人的速度建成了孟菲斯超級計算集群，并以前所未有的速度推出了前沿模型，” 他寫道。
位于孟菲斯的這一設(shè)施負(fù)責(zé)處理數(shù)據(jù)并訓(xùn)練為 xAI 的 Grok 聊天機(jī)器人(18.910, 0.05, 0.27%)提供動力的模型。
當(dāng)?shù)鼐用駥?xAI 在孟菲斯的運(yùn)營提出抗議，尤其反對其使用天然氣渦輪機(jī)為數(shù)據(jù)中心供電。據(jù)報道，渦輪機(jī)排放的污染物加劇了這座田納西州西部城市本已糟糕的空氣質(zhì)量。
在準(zhǔn)備與馬斯克合作創(chuàng)業(yè)時，巴布什金曾寫道，他相信 “人工智能很快就能超越人類的推理水平”，并擔(dān)心要確保這類技術(shù) “用于善舉”。他表示，“埃隆多年來一直警告強(qiáng)大人工智能的危險”，并與他分享了 “人工智能應(yīng)用于造福人類” 的愿景。
然而，該公司在人工智能安全方面的記錄并不理想。
今年 5 月，xAI 的 Grok 聊天機(jī)器人自動生成并傳播了關(guān)于南非所謂 “白人種族滅絕” 的虛假帖子。事后，公司道歉稱，Grok 的異常行為是由于對聊天機(jī)器人系統(tǒng)提示的 “未授權(quán)修改” 所致，而系統(tǒng)提示會影響其行為和與用戶的互動方式。
7 月，xAI 因 Grok 的另一個問題再次道歉。一次代碼更新后，該聊天機(jī)器人在 X 平臺上自動生成并傳播了虛假和反猶內(nèi)容，包括贊揚(yáng)阿道夫・希特勒的帖子。
歐盟上月要求與 xAI 代表會面，討論 X 平臺及集成的 Grok 聊天機(jī)器人存在的問題。
巴布什金和 xAI 未回應(yīng)置評請求。
其他聊天機(jī)器人也出現(xiàn)過在響應(yīng)查詢時生成虛假或危險內(nèi)容的情況。OpenAI 的 ChatGPT 最近被指給一名用戶提供錯誤的健康建議，導(dǎo)致該用戶被送進(jìn)急診室。去年，谷歌的 Gemini 在響應(yīng)用戶關(guān)于歷史的提示時生成了冒犯性圖像，包括將有色人種描繪成納粹的畫面，之后谷歌不得不對其進(jìn)行修改。
