1月15日，埃隆·馬斯克否認(rèn)其公司xAI旗下的聊天機器人Grok生成過未成年人裸體圖像。與此同時，加利福尼亞州檢察長辦公室對xAI展開調(diào)查，原因是其平臺上存在大量未經(jīng)同意的性露骨材料。全球多國政府對xAI施壓，包括英國、歐洲、馬來西亞和印度尼西亞。X平臺用戶利用Grok篡改真實女性和兒童照片生成性化圖像，據(jù)Copyleaks估算，X平臺上平均每分鐘發(fā)布一張此類圖像，1月5日至6日的抽樣數(shù)據(jù)顯示，24小時內(nèi)發(fā)布量達(dá)每小時6700張。

加州檢察長羅布·邦塔在聲明中表示，此類不良內(nèi)容已在互聯(lián)網(wǎng)上對多人實施騷擾，并敦促xAI立即采取行動。加州檢察長辦公室將調(diào)查xAI是否存在違法行為及其違法方式。馬斯克在帖子中表示，Grok不會主動生成圖像，僅根據(jù)用戶指令行事，并會拒絕制作違法內(nèi)容。他承認(rèn)存在惡意用戶通過指令“破解”系統(tǒng)的可能性，并表示一旦出現(xiàn)問題會立即修復(fù)漏洞。馬斯克將事件定性為偶發(fā)個案，歸咎于用戶的不當(dāng)請求或惡意指令攻擊，并認(rèn)為這是可以通過技術(shù)修復(fù)的問題，但未承認(rèn)Grok在底層安全設(shè)計上存在的缺陷。