炒股就看金麒麟分析师研报，泰斗，专科，实时，全面，助您挖掘后劲主题契机！

　　起头：新华国外头条

　　近来，好意思国企业家埃隆·马斯克旗下东说念主工智能聊天机器东说念主“格罗克”被指生成色情内容，激发粗俗责问。这一事件旧年年末以来抓续发酵，多国政府已运行干系窥伺。跟着大模子迅猛发展，讹诈东说念主工智能生成深度伪造内容并在网上传播的案例时有发生，突显了东说念主工智能本领的伦理风险。

　　列国怎样反馈

　　“格罗克”由马斯克旗下东说念主工智能企业xAI公司斥地，并内置于马斯克旗下酬酢媒体平台X。近期，X平台一些用户讹诈“格罗克”的图片剪辑功能生成真实东说念主物的罪责性表现内容，并在平台上漫步，受害者包括成年女性和未成年东说念主。“格罗克”涉嫌生成色情内容的问题已受到英国、法国、印度、巴西、澳大利亚等国和欧盟方面的强烈责问，一些国度的监管机构已介入窥伺。

　　多名法国政府部长和国民议会议员本月2日向法国司法部门报案。巴黎检方随后示意，将对“格罗克”涉嫌生成色情内容运行窥伺。

　　印度信息本领部2日要求X平台删除色情内容、打击违纪用户，并在72小时内提交“整改论说”，不然将面对法律制裁。

　　欧盟委员会负责数字经济事务的发言东说念主托马斯·雷尼耶5日说，正严肃窥伺针对“格罗克”的干系投诉，欧盟委员会要求X平台提供更多信息。

　　印度尼西亚和马来西亚的监管机构分辩于10日和11日文书对本国用户走访“格罗克”进行临时规定。印尼通讯和数字事务部长默蒂娅·哈菲兹在一份声明中示意，此举关于保护公众免受东说念主工智能生成的露骨图像所带来的危害是必要的，并要求X平台就“格罗克”所激发的负面影响尽快作出说明。马来西亚通讯和多媒体委员会示意，对“格罗克”的走访规定将抓续见效，直至干系企业落实有用珍爱机制。

　　英国通讯管制局12日示意，已把柄英国《在线安全法》对X平台张开讲求窥伺，以判定该平台是否践诺了保护英国环球免受作恶内容侵害的责任，不排斥“在最严重情况下”屏蔽X平台的可能。

　　图像生成有何问题

　　“格罗克”的图像生成问题本色上从Grok Imagine发布后就浮出水面。2025年8月推出的东说念主工智能图像生成器Grok Imagine是“格罗克”的功能模块，允许用户通过输入文本领导来创建图片和视频。它包含一个所谓“热辣花式”，可生成成东说念主内容。

　　好意思联社报说念说，这一问题之是以更加严重，一方面因为马斯克标榜旗下聊天机器东说念主是比缔造更多安全措施的竞争敌手家具“更时尚”的选拔；另一方面，“格罗克”生成图像公开可见，很容易漫步。

　　东说念主工智能取证组织近日发布论说夸耀，征询东说念主员网罗和分析了“格罗克”在2025年12月25日至2026年1月1日历间以深度伪造神情生成的2万张图像。完了发现，开云体育系数包含东说念主物的生成图像中，有55%的图像中有东说念主物穿着表现，这些着装表现的东说念主有81%是女性；有2%的生成图像为年事不及18岁的东说念主物，其中一些图像包含穿着表现的年青女性（或女孩）形象。

　　据多家媒体报说念，面对多方压力，领域上周末，“格罗克”在X平台上的图像生成和剪辑功能已被改动为仅向平台付用度户洞开，但在“格罗克”应用关键和官网上仍可免费使用该功能。英国政府对此示意，这一整改措施仅仅“将允许创建作恶图像的东说念主工智能功能造成一项高档工作”，对受害者来说是“侮辱性的”。

　　科罚深度伪造难在哪

　　这次事件并非有时。连年来，跟着大模子呈快速发展态势，讹诈东说念主工智能本领换脸换声、生成深度伪造内容并在网上传播的案例时有发生。尽管东说念主工智能伦理风险日益突显，东说念主工智能监管法例在好多国度仍不完善。

　　清华大学东说念主工智能国外科罚征询院副院长梁正继承新华社记者采访时说，东说念主工智能深度伪造科罚触及模子算法安全性评估、对讹诈东说念主工智能器具生成无益内容算作的管制、对东说念主工智能生成内容进行记号等多方面，很难依靠出台一部法律进行全面科罚，而是需要设置“全链条式”科罚体系。在这类事件中，内容生成和分发平台对内容检测甄别负有主体包袱。与此同期，还应通过讲解等神情提高公众的东说念主工智能伦理修养，确保干系器具使用适合。

　　好多国度正积极鼓动干系法例斥地。波兰众议院议长沃皆米日·恰扎斯蒂6日示意，但愿借这次“格罗克”事件鼓动国度数字安全立法，干系法例旨在加强未成年东说念主保护，并使司法部门更易于删除无益内容。

　　英国科学、调动和本领大臣莉兹·肯德尔12日文书，英国《数据法案》干系条件将于本周见效，未经应许制作或寻求制作好意思妙图像将被认定为刑事监犯，在X平台上发布此类内容将组成刑事监犯。

　　马来西亚通讯部副部长张念群近日示意，全球正围绕东说念主工智能张开热烈竞争，但若一味追求速率与利润，而淡薄伦理设施与社会包袱，其成果将不胜设念念。“格罗克”在短时间内无数生成瞻念影像，且速率远超传统影像处理神情，突显出东说念主工智能在枯竭伦理遏抑情况下被虚耗的践诺风险。

包袱剪辑：何俊熹