2025年6月27日，以“智享AI 成长有爱”为主题的“清朗e企来”沙龙活动正如火如荼地举行。
“未成年人模式如何让未成年人想用、家长会用”、“未成年人模式如何避免低龄化、低智化”、“如何通过更便捷的方式一键启动未成年人模式”……一系列问题被直接抛到台前，来自上海市委网信办、高校以及小红书、哔哩哔哩、喜马拉雅等网络平台的专家、代表没有回避，直面问题。
事实上，这一场景只是“清朗守护·为你而来”未成年人网络环境整治专项行动的一个缩影。从平台治理到素养提升，从AI规制到心灵守护，上海的未成年人网络保护正走出一条“心”路。
今年7月11日，市委网信办组织召开未成年人模式建设分类指导会。
聚焦精准保护，提升服务效能
未成年人的健康成长关乎亿万家庭的幸福安宁。作为伴随信息化发展成长起来的“网络原住民”，未成年人已成为互联网用户重要组成部分。在通过网络便利、丰富学习和生活的同时，未成年人也面临着违法和不良信息侵害、个人信息泄露、网络沉迷、网络欺凌等多重风险。
早在2021年《未成年人保护法》正式实施不久，上海就在全国率先试点《上海网络平台青少年模式设置指南（试行版）》（以下简称《指南》）。《指南》明确提出对不同年龄段的青少年需做出差异化功能限制，比如网络平台对不同年龄段的青少年（8-16周岁、16-18周岁）在充值、购买产品时，对单次、每月累计金额设置上限；明确在青少年模式下不得开启打赏功能，未满16周岁的青少年不能担任网络主播。
去年年底，国家网信办推出《移动互联网未成年人模式指南》，青少年模式正式升级为未成年人模式，今年4月“未成年人模式”在全国推广。上海市委网信办在7月11日举行的分类指导会上强调，小红书、哔哩哔哩、喜马拉雅、咪咕等已建成未成年人模式的属地网络平台要注重“三个优化”，实现时间、内容、功能三方面管理升级。比如时长管理方面，要由移动智能终端统一控制总时长，解决单个应用程序分散计时、总时长不可控的问题；内容管理方面，要在持续扩充专属内容池的同时，分年龄段推荐适龄内容；功能管理方面，要在保障使用需求的前提下，合理限制诱导沉迷功能，推动便捷性和安全性双提升。
在属地网络平台方面，哔哩哔哩的选择颇具代表性。近一年来，其围绕“知识启蒙、安全教育、情绪疏导、兴趣发展”等主题建立内容分层推荐，并探索按年龄阶段匹配差异化推荐策略。
“真正的保护，不是与现实完全割裂。完全去现实化的内容环境容易让孩子缺乏心理免疫力。”哔哩哔哩相关负责人坦言，这种认知促使平台将未成年人模式重新定位为“可控的现实暴露”和“适龄的信息锻炼”——它不仅是一个避风港，更是一个能帮助他们成长、建立自我认知和判断力的“训练营”。
喜马拉雅则选择了一条专业化道路。与北师大专家合作研发的“分级听读体系”，将儿童内容分为9个级别。通过便捷测试，系统就能为每个孩子推送合适的内容，实现内容难度、主题与心智发展阶段的精准匹配。
这些探索，共同勾勒出上海在未成年人网络保护上的恒心，要让未成年人安心、放心地在网上“冲浪”。
以“智享AI 成长有爱”为主题的“清朗e企来”沙龙活动现场
严治AI乱象，筑牢安全防线
2025年6月，一则关于筑梦岛App的报道引发关注。
据央广网报道，某中学初一年级男学生反映，他常玩的AI聊天软件筑梦岛App，含色情擦边和“分尸猎奇”内容。记者下载安装筑梦岛App，随机选择一位虚拟互动对象，对方发来的第一句开场白就是“先叫声老公来听听”……在与该款产品多个虚拟角色的交流中，也都可以发现有色情擦边类内容，且部分虚拟角色的对话尺度，并未因记者提供的假定年龄未成年而受到有效控制。
经查，筑梦岛App AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身心健康。上海市委网信办随后依法约谈该平台，要求立即整改，健全AI生成合成内容审核机制，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。
上海市委网信办相关负责人指出，依据《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》等相关法规，互联网平台应主动履行主体责任，平衡好技术创新与内容合规之间的关系，切实防范AI技术滥用风险，保护未成年人合法权益。
筑梦岛App事件并非个例。随着生成式AI技术迅猛发展，未成年人面临的各类网络风险更隐蔽、更难以防范。除了AI陪伴聊天中暗藏的色情暴力信息，网信部门还发现，部分用户利用AI绘图技术，恶意将未成年人图片转换成儿童怀孕状态、身穿裸露服装等恶俗低俗漫画。
根据国家网信办统一部署，上海组织开展的“清朗・整治 AI 技术滥用”专项行动，聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容、假冒他人、从事网络水军活动等突出问题。对屡教不改、问题严重的企业，上海市委网信办表示将依法予以处罚，并对典型案例进行媒体曝光。
整治乱象的同时，上海也以先行姿态应对AI技术对未成年人保护带来的挑战。在上海市委网信办指导下，徐汇区委网信办发布《未成年人科学使用AI倡议书》（以下简称“《倡议书》”）。
这是AI时代为未成年人实现数字保护的“上海方案”。《倡议书》建议，未成年人要保持自主性和批判性思维，验证AI生成内容准确性，避免盲目依赖和技术崇拜，以理性、科学的态度与AI和谐共处。学习AI技术原理，以AI为工具拓宽思维边界，在创新创作中激发想象力……
这份《倡议书》的“用心”在于，《倡议书》从政府构建良好生态、企业践行社会责任、青少年培育科学精神三方面提供引导，推动形成“政府引导、企业担责、青少年自主”新模式，为应对AI时代的未成年人网络教育提供了可复制的“上海方案”。
政企协同合力，多维施策守护
“沪小信”网络安全冒险记、“唱响上海话童谣、提升未成年人文明素养”音乐综合课、“魔法书页护成长、文明网络伴童年”……2024年，上海市委网信办依托未成年人网络保护专项协同机制，会同相关部门创新推出未成年人网络素养“菜单式”课程库，实现“点单”授课、按需施教，共同提升未成年人网络素养。2025年，这项工作继续走深走实。
2025年7月7日，上海第一期爱心暑托班正式开班。在长宁、普陀、宝山、闵行等区，网络素养课程走进爱心暑托班。
长宁区委网信办会同上海市律师协会未成年人权益保护专业委员会在江苏路街道开展《“沪小信”网络安全冒险记》网络素养课程，针对保护个人信息、预防网络欺凌以及网络防沉迷问题，与近100名学生开展互动交流；
普陀区爱心暑托班已开展6次未成年人网络素养课程，覆盖约200人次，涉及“科技改变生活”“产业升级和进步”等主题；
宝山区整合教育、司法、执法等多领域资源，推出“争做网络文明小达人”等课程；
闵行区指导华漕镇联合属地派出所以真实案例科普网络安全知识；
嘉定区组织“一嘉人”普法志愿服务团队推出的未成年人网络素养课程聚焦校园欺凌和网络欺凌问题，系统讲解欺凌行为的表现形式、法律后果及应对策略；
崇明区邀请检察官赴爱心暑托班，通过典型案例分析传授网络犯罪预防知识……
与此同时，上海属地网络平台也在同步发力。
“向上海市慈善基金会徐汇区代表处捐赠，成立“点亮计划”青少年保护专项基金，用于青少年网络保护、服务和权益保障等慈善公益类项目。”米哈游相关工作人员介绍，网络安全进校园项目主要针对青少年遭受网络暴力、网络诈骗以及网络沉迷等问题。
小红书则在2025年暑假期间启动了未成年人反诈专项工作。该项目治理负责人柳天宇介绍，平台采取“端内画风管控+风险阻断提醒+评论拦截屏蔽+群聊封禁解散”四位一体技战法进行综合治理，全力守护平台未成人用户财产安全。
与此同时，平台还积极开展未成年用户反诈心智建设工作。数据显示，小红书#未成年反诈指南 超级话题已获得超4亿曝光量，引发31万次站内讨论。
关注心灵需求，创新守护模式
在构建未成年人网络保护体系中，上海特别注重心灵层面的守护。
“为感到焦虑的用户提供宁静的蓝色系，为情绪低落的用户提供温暖的暖色系。”哔哩哔哩公共事务高级总监王昊栋介绍，今年平台在未成年人心理健康领域的探索，核心是推动“能量加油站”心理关怀项目焕新升级，包括引入“心情模式”智能功能，“当用户进入‘能量加油站’时，系统会引导或根据用户自主选择，识别其当前的情绪状态，界面会自动切换相匹配的主题配色。”
更重要的是，哔哩哔哩在平台内设置了最后一道“守护线”——与专业的第三方心理健康公益组织合作设立公益热线，为面临严重心理困扰的用户提供即时、保密且可靠的支持。
Soul平台则与北京回龙观医院、上海精神卫生中心深度合作设立专属心理援助热线，建立警企联动机制。当接到用户的热线反馈时，迅速明确其需求，若判定为真实轻生等信息，则立即报警并提供必要信息。
此外，传统的社区工作也在悄然转型。
比如，普陀区聚焦未成年人网络防沉迷，升级打造“阳光成长·心网相护”品牌项目，创新采用“沉浸式心理剧”与分龄化主题沙龙，还原中小学生家庭在手机使用与学习安排中的典型冲突场景，并融入轻松活泼的互动游戏，将抽象的防沉迷理念转化为可感可知的家庭教育实践，引导未成年人合理用网、健康上网，同步提升心理健康水平与亲子沟通质量。
项目负责人表示，活动始终围绕防沉迷核心，动态收集家长和孩子的新问题、新需求，针对寒暑假时间管理、大考前心理调适等关键节点，精准开展亲子家庭沙龙。“一场活动下来，家长才明白，许多‘不听话’的背后，其实是孩子的情绪信号。”
这种线上线下的联动，织就了一张密实的心理健康防护网。它不再将网络问题与心理问题割裂对待，而是认识到两者之间的深刻关联，并在此基础上构建整体性解决方案。
今年，“清朗守护·为你而来”专项行动指导属地网站平台清理违法违规信息324万余条，处置违法违规账号3.8万余个。
数字背后，是一场更为深刻的治理变革。在这条“走心之路”上，上海不是筑起高墙，而是赋能成长；不是简单隔离，而是培养免疫力；不是单向管理，而是多元共治。当政府、企业、学校、家庭和社会形成合力，我们才能在数字时代真正守护好未成年人的明天——
让他们在网络世界既自由翱翔，又不迷失方向。
还木有评论哦，快来抢沙发吧~