“网信中国”微信公众号27日消息，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，现向社会公开征求意见。
意见稿提出，提供者开展预训练、优化训练等数据处理活动时，应当加强训练数据管理，遵守以下规定：使用符合社会主义核心价值观、体现中华优秀传统文化的数据集；对训练数据开展清洗、标注，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为；提高训练数据的多样性，通过负向采样、对抗训练等手段，提升模型生成内容安全性；利用合成数据进行模型训练和关键能力优化时，应当评估合成数据安全性；加强对训练数据的日常检查，定期对数据进行迭代升级，持续优化产品和服务的性能；保障训练数据来源合法、可追溯，采取必要措施保障数据安全，防范数据泄露风险。
意见稿提出，提供者应当具备用户状态识别能力，在保护用户个人隐私前提下，评估用户情绪及对产品和服务的依赖程度，发现用户存在极端情绪和沉迷的，采取必要措施予以干预。提供者应当建立未成年人模式，向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。
意见稿还提出，拟人化互动服务提供者注册用户达100万以上或者月活跃用户达10万以上的应开展安全评估。
富灯网提示：文章来自网络，不代表本站观点。
