社交平台 X 人工智能服務 Grok 被用來生成不雅圖像 面臨英國監管

據 BBC 今日（1 月 10 日）報導，Elon Musk 旗下社交平台 X 的聊天型人工智能（AI）服務 Grok 早前因在未經他人同意的情況下被用來生成不雅圖像而受到批評，Musk 現稱批評者是在尋找「任何審查的藉口」（”any excuse for censorship”）。

BBC 調查了多則案例，發現這款免費的人工智慧工具未經女性同意將她們呈現為裸體，並將她們置於性場景中。Musk 其中一個孩子的母親 Ashley St Clair 就指 Grok 曾生成過她看起來是小孩的性化照片。這位保守派網紅表示，儘管她告訴 Grok 她並不同意，該照片依然呈現其「剝光」（”stripped”）的圖像，而且看起來「基本上是裸體，彎著腰」（”basically nude, bent over”）。她批評 X 沒有採取足夠的行動來打擊非法內容，包括兒童性虐待圖像，又指「只需給工程師發個訊息就能阻止這事發生」（”this could be stopped with a singular message to an engineer”）。

X 現已限制只有付費用戶才能使用 AI 影像功能，但首相府稱這項變更對性暴力受害者「具侮辱性」（”insulting”）。英國通訊管理局（Ofcom）則表示，當局在科技大臣 Liz Kendall 的支持下正在對 X 進行緊急評估。根據《網路安全法》（Online Safety Act），Ofcom 有權可向法院申請命令，禁止第三方幫助違例公司籌集資金或在英國境內運作。Kendal 補充，她預計 Ofcom 將在幾天內發布最新消息，如果 Ofcom 決定在英國封鎖 X，政府將全力支持。

然而，英國議會的創新與技術委員會主席 Dame Chi Onwurah 表示，她對此事的實際處理方式感到「擔憂和困惑」（”concerned and confused”），因為目前尚「不清楚」（”unclear”）使用人工智慧創建此類圖像是否違例，而社交媒體網站對其平台上分享的內容應承擔何種責任。文化、媒體和體育委員會主席 Caroline Dinenage 也表示擔心《網路安全法》的「漏洞」（”gaps”）可能會削弱監管機構處理此事的能力。