随着人工智能技术持续演进,其应用场景不断向社交、内容创作、生活服务等领域延伸,人与AI的互动方式也在发生变化。在技术能力不断提升的同时,数据安全、隐私保护、算法治理、人机交互边界等议题受到广泛关注。面对AI发展带来的新机遇和新挑战,科技企业不仅需要持续推进技术创新,也需要同步建立更加完善的伦理治理体系。在这一背景下,Soul App创始人张璐团队持续推进平台AI治理建设,进一步完善负责任创新机制。
6月23日,Soul App举行了人工智能伦理与治理委员会的成立仪式。该委员会除了有平台内部的核心委员外,还特别邀请了互联网治理、伦理学、社会学、青少年研究、法律等七大领域的行业专家作为外部委员,从多元视角为平台的AI发展提供支持和把关。Soul App创始人张璐表示,随着AI在交互场景中的应用日益深入,平台始终关注AI能力边界、用户体验以及技术应用之间的平衡。此前,Soul已经在数据安全、用户隐私保护、AI防沉迷以及治理机制优化等方面进行了持续探索。委员会成立后,希望能够进一步凝聚行业共识,拓宽治理视角,更系统地构建AI伦理治理体系和管理闭环,为用户打造一个真实、温暖、可信的社交环境。
长期以来,Soul聚焦情绪感知与智能交互核心赛道,积累了深厚的技术和场景经验。早在2016年上线之初,平台就率先将AI技术应用于人际社交链接领域。2020年起,开始系统性地开展AIGC技术研发,深入研究情绪多模态交互领域,自主研发了SoulX大模型,并搭建起底层技术与应用场景深度融合的生态体系。2025年10月,平台开源的语音播客生成模型SoulX - Podcast,上线次日便登上HuggingFace全球TTS趋势榜榜首,在Github平台更是获得了3300 +的星标数。2026年,平台持续开源多款与实时数字人、语音交互相关的模型,不断向行业输出可落地、可商用的垂类技术方案,实现从产品创新到产业赋能的升级。
随着技术体系的不断完善,Soul形成了以“自有应用—产业生态”为核心的双层应用体系。一方面,通过Soul App的真实社交场景推动模型迭代和交互能力的优化;另一方面,利用SoulX模型的能力赋能产业生态,为具身智能、内容演绎等领域提供情绪感知与交互决策方案。这些长期积累为平台推进AI伦理治理奠定了坚实的技术基础。
围绕AI应用安全,Soul创始人张璐团队近年来不断完善治理体系。在监管部门的指导下,平台逐步建立了涵盖技术、产品、安全等多个维度的AI治理机制,并依托自身的AI能力打造了以“AI对抗AI”为核心的智能治理体系。通过“动态采集—AI深度分析—智能决策—智能执行”的治理链路,不断提升在复杂网络环境下的风险识别和主动防御能力。其中,“AI大模型助力技术创新,精准识别让虚假人设无处遁形”入选了“清朗浦江·2024”网络生态治理优秀创新案例。
针对AI虚拟人交互、模型内容生成及用户体验等重点场景,Soul创始人张璐团队持续优化安全机制。例如,在AI虚拟人服务中,平台采用了用户输入审核与模型输出审核相结合的双重审核机制,并针对多轮对话引入上下文语义理解能力,提高风险识别的准确性。同时,平台对AI虚拟人进行了明显标识,在交互界面持续提示“内容由AI生成”,保障用户的知情权,减少因AI与真人身份混淆而产生的误判。此外,Soul还逐步建立了覆盖输入治理、生成治理、输出治理、风险干预和用户保护的全链路安全体系,并针对未成年人保护设立了专项机制,如不向未成年人提供虚拟人服务、上线青少年模式等,不断提升平台的安全治理能力。
此次成立的人工智能伦理与治理委员会,是Soul进一步推动AI治理体系建设的重要举措。新成立的委员会将承担制定AI伦理治理战略、开展新技术和新产品前置伦理评估、组织AI伦理培训以及建立伦理事件闭环管理机制等职责。同时,委员会还会根据实际治理需求设立专项治理小组,围绕隐私保护、人机互动体验、算法合规、未成年人保护等重点领域开展专项审查、技术优化和研究工作,并结合不同领域专家的专业意见,为企业制度建设提供多元化支持。
当前,AI应用在社交互动和内容生态中的渗透不断加深,技术创新与伦理治理协同发展的重要性愈发显著。Soul创始人张璐团队通过建设人工智能伦理与治理委员会,进一步完善了平台的AI治理机制,体现了企业在推进AI能力建设过程中,对安全、规范和用户权益保护的持续重视。