印尼与马来西亚日前相继宣布，暂时封禁美国企业家埃隆·马斯克旗下的人工智能聊天机器人Grok，因为担心它被用于生成色情内容。
据新华社报道，印尼通信和数字事务部长默蒂娅·哈菲兹10日在一份声明中表示，此举对于保护公众免受人工智能生成的露骨图像所带来的危害是必要的，并要求马斯克旗下的社交媒体X平台就Grok所引发的负面影响尽快作出说明。
紧随其后，马来西亚通讯及多媒体委员会11日发布声明，暂时禁止该国用户访问Grok，因为Grok 被反复滥用来生成色情内容、露骨的性内容、极度冒犯且不雅的内容，以及在未经同意的情况下生成被操纵的图像。
Grok 由马斯克旗下的人工智能公司xAI 公司开发，去年8月推出AI工具—Grok Imagine，可根据文字提示或上传图片编辑生成AI图像，继而转化为短视频内容。据商业内幕网站报道，有用户利用这一工具对图像中的人物进行“数字脱衣”，然后将编辑后的性暴露照片投向社交平台。
xAI 已将Grok 整合进社交平台X，而印尼是全球 X 用户数量第三多的国家。印尼政府在一份声明中表示，“未经同意的、性化的深度伪造行为严重侵犯了公民在数字空间中的人权、尊严和安全。
法国政府本月早些时候对美媒表示，将对 Grok 生成的露骨色情深度伪造内容展开调查。英国数据监管机构则称，已要求X平台解释在遵守数据保护法律方面所采取的措施。印度政府近日在一封致X公司的信中表示，Grok正被“用户滥用”，以“贬损或粗俗的方式生成女性图像或视频，从而对她们进行猥亵诋毁”。与此同时，美国多名参议员要求苹果和谷歌将X和Grok 从其应用商店下架。
为应对批评，xAI于9日宣布，将Grok在社交媒体平台X上的图像生成功能，限制为仅向付费订阅用户开放。不过，独立运行的Grok应用程序仍允许用户在无需订阅的情况下生成图像。
