火報記者 陳銳/報導
由馬斯克（Elon Musk）創立的人工智能公司xAI於去年釋出了其首款AI模型，這款模型被命名為Grok，成為該公司進軍人工智能領域的重要一步。這款AI模型問世後不久便迅速整合進了其下的平台X，並以生成式AI對話機器人的形式為用戶提供服務。隨著時間的推移，xAI不斷提升技術水平，最近又發布了兩個性能更加強大的測試版本。這些新版本不僅加強了Grok的能力，還為X的訂閱用戶和訂閱+用戶引入了一項新的功能，即可以透過文字生成圖片。儘管技術進步讓人感到驚艷，但Grok的內容生成規範卻相對寬鬆，這一點引發了人們的擔憂，特別是隨著美國總統選舉的日益臨近，擔心這樣的技術可能會被不法分子利用，導致虛假信息的傳播，從而對選舉結果產生負面影響。隨著選舉的臨近，這種擔憂變得愈發強烈，讓人不禁思考如何在技術發展與信息安全之間取得平衡。
xAI的技術發展與應用
xAI最近釋出的兩款新型人工智能，目前雖還在研發的階段，但已經對部分X 訂閱和訂閱+客戶開放。據xAI介紹，新版本的升級，擁有更人性化的對話、編程和推理能力，xAI還計劃在月底前，通過企業API向開發者提供這些模型，以便擴展它們的使用範圍。
Grok新增的功能與其影響
隨著Grok性能的提升，xAI還為其新增了一項使用文字來生成圖片的功能。這項功能已經在X 訂閱和訂閱+用戶中推出，用戶只需啟用Grok即可使用。然而，據外媒《The Verge》報導，Grok在內容生成方面的限制相對較少。雖然xAI表示其系統會避免生成涉及色情、暴力、仇恨或危險活動的圖像，也會阻止生成可能用於欺騙或傷害他人的圖像，例如誤導性的深度偽造圖片，但對於其他類型的內容，xAI並未詳細說明其限制範圍。
Grok的風險與潛在問題
根據《The Verge》的測試結果，Grok在生成涉及「政治」或「文化多樣性」的圖片時，並沒有顯示出明顯的限制。測試中甚至生成了如比爾·蓋茨吸毒的圖片，以及美國共和黨總統候選人唐納·特朗普和副總統賀錦麗持槍的圖像。僅當輸入如「女性裸體照片」這類明顯違反規則的關鍵詞時，Grok才會啟動內容過濾機制。這引發了對Grok內容生成標準過於寬鬆的擔憂，特別是在美國總統選舉即將到來之際，這種寬鬆可能會被別有用心的人利用，進一步加劇虛假信息的傳播風險。
結論與前瞻
總結來看，這些技術創新為用戶帶來了更多功能和便利。但與此同時，隨著技術的普及，其背後的道德風險和社會影響也變得更加明顯。未來，xAI需要在技術創新與社會責任之間找到平衡，確保技術的應用不會帶來負面的社會影響。這將成為技術發展中一個不可忽視的重要課題。
