生成式人工智能正迅速进入未成年人的数字生活ღ★✿，渗透学习辅助ღ★✿、社交陪伴等场景188金宝搏ღ★✿。与此同时金宝搏188官网ღ★✿，AI绘画软件随意生成不良图像ღ★✿，陪伴型聊天机器人变成“早熟导师”ღ★✿，智能问答工具解题“不靠谱”……生成式AI带来的隐忧也不可忽视ღ★✿。

　　南方都市报ღ★✿、南都大数据研究院即日起推出“保护AI世界里的孩子”系列调查报ღ★✿，聚焦部分AI应用隐藏的侵害未成年人权益的场景金宝搏188官网ღ★✿，关注背后数据污染ღ★✿、模型异化等深层风险ღ★✿，以期助力服务提供者筑牢安全底线和内容防线ღ★✿，护航未成年人健康成长青沼知朝青沼知朝ღ★✿。

　　第1期ღ★✿，从AI生图应用生成涉未成年人低俗擦边图现象ღ★✿，看AI生图开源模型数据集的“污染”风险ღ★✿。

　　AI生图应用竟能一键生成未成年人敏感图片ღ★✿，且这些内容不仅能顺利下载ღ★✿，还能在应用内畅通无阻地发布传播青沼知朝ღ★✿。南方都市报ღ★✿、南都大数据研究院近日调查发现ღ★✿，部分App存在上述问题ღ★✿，AI技术滥用的安全隐患值得关注ღ★✿。

　　有技术专家告诉南都记者ღ★✿，该风险或是由于开源模型的数据集“污染”所致ღ★✿。中国社会科学院大学互联网法治研究中心主任刘晓春表示ღ★✿，一些未经规范运作的应用处于“灰色市场”ღ★✿，或成为合规“重灾区”ღ★✿。“未成年人保护”更应作为一个重要的理念和价值观ღ★✿，贯彻在整个人工智能应用的开发过程当中ღ★✿。

　　据悉ღ★✿，中央网信办当前正重拳整治“利用AI制作发布色情低俗内容”“侵害未成年人权益”等13类“AI技术滥用”突出问题金宝搏188官网ღ★✿。

　　“AI做大尺度擦边女亲测有效变现”“让AI生成敏感内容的方法”“瑟瑟提示词大全”……在社交平台ღ★✿、聊天群组内和“AI绘图”有关的帖文中ღ★✿，流传着大量大尺度敏感描述词的关键词库188BET金宝搏ღ★✿。ღ★✿，其中不乏涉未成年人敏感词ღ★✿。

　　南都记者近日随机测试了在苹果应用商店上架的20款AI生图应用ღ★✿，发现其中部分App能够不设限制地生成并发布儿童不雅形象图片ღ★✿，有的甚至突破伦理底线ღ★✿。

　　在一款名为“*梦*”的应用中ღ★✿，使用简单的几个关键描述词ღ★✿，仅需不到一分钟ღ★✿，即可免费生成细节丰满ღ★✿、色彩丰富的二次元动漫图ღ★✿，还能选择百余种风格ღ★✿。以“未成年人”“儿童”为核心关键词进行创作ღ★✿，该应用可随意生成裸体ღ★✿、畸形ღ★✿、性暗示等二次元色情形象ღ★✿，甚至是“儿童妊娠”图片ღ★✿。

　　南都记者在该平台的精选内容看到ღ★✿，部分作品即便使用了未带任何引导性的创作文案ღ★✿，生成的人物穿着ღ★✿、动作ღ★✿、表情也呈现擦边形象ღ★✿。

　　在另一款应用“*趣”内ღ★✿，也存在类似情形ღ★✿，可以生成涉未成年的低俗写实图片ღ★✿，这些图片不仅可以生成下载ღ★✿，还能畅通无阻地发布传播ღ★✿。

　　记者查询相关公告发现ღ★✿，上述应用所使用大模型均未通过国家生成式人工智能服务备案ღ★✿，应用属于中小企业或个人运营ღ★✿。刘晓春指出ღ★✿，这些未经规范运作的应用处于“灰色市场”ღ★✿，或将成为合规“重灾区”ღ★✿。

　　据南都大数据研究院不完全统计ღ★✿，当前ღ★✿，各大应用商店内至少有超过300款AI生图应用ღ★✿，而不同模型所生成图片质量也参差不齐ღ★✿。

　　此次调查发现金宝搏188官网ღ★✿，有部分AI生图应用已做到对敏感内容成功审核拦截ღ★✿，主要分为3种情形ღ★✿：在输入图片描述词时金宝搏188BET下载ღ★✿，应用会自动提示内容敏感ღ★✿，如Uni Dream等应用会在输入描述词后提示用户检测到描述中含有违规描述ღ★✿，同时明确多次违规将实施禁言或封号处理ღ★✿。

　　Sora kaღ★✿、灵梦AIღ★✿、AI创艺ღ★✿、MJ绘画等应用则是在生成过程中提示系统监测到敏感内容ღ★✿，并中止生成青沼知朝ღ★✿。

　　星流ღ★✿、AI图片生成等应用会按照指令操作ღ★✿，但如果检测到敏感内容ღ★✿，会对生成后的图片进行屏蔽ღ★✿，并提示用户图片包含敏感内容ღ★✿。

　　AI生图模型存在风险ღ★✿，如何审核防范？相关技术专家告诉南都记者ღ★✿，由于开源模型的数据集存在“污染”金宝搏188官网ღ★✿，包含非法内容或未经授权的版权素材ღ★✿，就会导致生成结果无意中嵌入敏感或不良信息ღ★✿，AI生成过程依赖算法对海量数据的概率性匹配ღ★✿，难以完全控制输出内容的合规性ღ★✿。即使用户输入合法提示词ღ★✿，模型仍可能因数据偏差生成误导性或侵权内容ღ★✿。目前金宝搏188官网ღ★✿，技术上可以通过数据预清洗ღ★✿、对抗训练金宝搏188官网ღ★✿、数据溯源等方式金宝搏188app下载ღ★✿，过滤敏感请求ღ★✿。随着《人工智能生成合成内容标识办法》的出台ღ★✿，可通过显式+隐式标识对不合规内容开展溯源打击金宝搏188BETღ★✿，ღ★✿。

　　生成式AI技术就像“钟摆”ღ★✿，每一次迭代ღ★✿，既是效率变革ღ★✿，也生成风险挑战ღ★✿。在人工智能治理过程中188bet金宝搏·中国官网ღ★✿，如何防范AI生图对未成年人的权益侵害？刘晓春表示ღ★✿，无论是从监管层面还是公众认知层面ღ★✿，都有必要对向未成年人提供的生成式人工智能服务进行安全合规的指引ღ★✿，对具有一定未成年人用户规模的应用ღ★✿，首先要在基础模型训练时做好合规ღ★✿，尤其是要注意在应用开发时做好调优训练青沼知朝ღ★✿，在输出端进行审核把控金宝搏188官网ღ★✿。