時事科技

重磅升級!馬斯克旗下AI Grok釋出全新功能 X Premium用戶搶先體驗

火報記者 陳銳/報導

由馬斯克(Elon Musk)創立的人工智能公司xAI於去年釋出了其首款AI模型,這款模型被命名為Grok,成為該公司進軍人工智能領域的重要一步。這款AI模型問世後不久便迅速整合進了其下的平台X,並以生成式AI對話機器人的形式為用戶提供服務。隨著時間的推移,xAI不斷提升技術水平,最近又發布了兩個性能更加強大的測試版本。這些新版本不僅加強了Grok的能力,還為X的訂閱用戶和訂閱+用戶引入了一項新的功能,即可以透過文字生成圖片。儘管技術進步讓人感到驚艷,但Grok的內容生成規範卻相對寬鬆,這一點引發了人們的擔憂,特別是隨著美國總統選舉的日益臨近,擔心這樣的技術可能會被不法分子利用,導致虛假信息的傳播,從而對選舉結果產生負面影響。隨著選舉的臨近,這種擔憂變得愈發強烈,讓人不禁思考如何在技術發展與信息安全之間取得平衡。

新版本不僅加強了Grok的能力,還為X的訂閱用戶和訂閱+用戶引入了一項新的功能,即可以透過文字生成圖片。圖片來源:Copilot

xAI的技術發展與應用

xAI最近釋出的兩款新型人工智能,目前雖還在研發的階段,但已經對部分X 訂閱和訂閱+客戶開放。據xAI介紹,新版本的升級,擁有更人性化的對話、編程和推理能力,xAI還計劃在月底前,通過企業API向開發者提供這些模型,以便擴展它們的使用範圍。

Grok新增的功能與其影響

隨著Grok性能的提升,xAI還為其新增了一項使用文字來生成圖片的功能。這項功能已經在X 訂閱和訂閱+用戶中推出,用戶只需啟用Grok即可使用。然而,據外媒《The Verge》報導,Grok在內容生成方面的限制相對較少。雖然xAI表示其系統會避免生成涉及色情、暴力、仇恨或危險活動的圖像,也會阻止生成可能用於欺騙或傷害他人的圖像,例如誤導性的深度偽造圖片,但對於其他類型的內容,xAI並未詳細說明其限制範圍。

Grok的風險與潛在問題

根據《The Verge》的測試結果,Grok在生成涉及「政治」或「文化多樣性」的圖片時,並沒有顯示出明顯的限制。測試中甚至生成了如比爾·蓋茨吸毒的圖片,以及美國共和黨總統候選人唐納·特朗普和副總統賀錦麗持槍的圖像。僅當輸入如「女性裸體照片」這類明顯違反規則的關鍵詞時,Grok才會啟動內容過濾機制。這引發了對Grok內容生成標準過於寬鬆的擔憂,特別是在美國總統選舉即將到來之際,這種寬鬆可能會被別有用心的人利用,進一步加劇虛假信息的傳播風險。

結論與前瞻

總結來看,這些技術創新為用戶帶來了更多功能和便利。但與此同時,隨著技術的普及,其背後的道德風險和社會影響也變得更加明顯。未來,xAI需要在技術創新與社會責任之間找到平衡,確保技術的應用不會帶來負面的社會影響。這將成為技術發展中一個不可忽視的重要課題。

相關文章