馬來西亞和印尼近日成為全球首批封鎖人工智能聊天機器人Grok的國家。該工具由馬斯克旗下的xAI開發，並通過其社交平台 X 使用。兩國監管機構表示，Grok被濫用於生成色情、露骨且未經當事人同意的合成影像，尤其涉及女性和未成年人，現有技術和平台管控不足以阻止相關內容擴散。印尼政府上週六率先暫時封鎖Grok，馬來西亞隨後在周日採取同樣措施。印尼通訊與數位事務部長指出，非自願的性深度偽造內容嚴重侵犯人權、尊嚴和數字空間安全。監管部門初步調查發現，Grok缺乏有效防護，無法阻止用戶基於真實照片製作和傳播色情合成圖像，存在隱私權、肖像權被侵犯的風險，並可能造成心理、社會和聲譽傷害。馬來西亞通訊與多媒體委員會也表示，在多次要求X公司和xAI加強防護但未獲實質改進後，決定採取預防性、適度的臨時封鎖措施，直到有效安全機製到位。

同時，英國、歐盟、印度和法國也對Grok表達擔憂。英國媒體監管機構Ofcom已對此平台展開調查，評估是否違反保護公眾免受非法內容侵害的法定義務。英國政府也宣布將推動立法，禁止企業提供用於製作性深度偽造圖像的工具。英國科技大臣強調，新法並非打壓言論自由，而是為打擊針對女性和兒童的網路暴力，維護基本社會價值。若Ofcom認定X違法，最高可處以全球合格收入10%的罰款。 X公司回應稱，將刪除非法內容、永久封鎖帳號，並與執法機構合作。

近幾週來，Grok受到了來自世界各國的強烈批評（Reuters: Dado Ruvic/Illustration/File Photo）

來源：ABC