政策动向
《人工智能安全治理框架》1.0版发布
2024年9月9日，在上海举行的国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会（网安标委）正式发布了《人工智能安全治理框架》1.0版。该框架旨在通过风险管理理念，结合人工智能技术特性，全面分析人工智能的风险来源和表现形式。
框架内容涵盖了模型算法安全、数据安全、系统安全等内生安全风险，以及网络域、现实域、认知域、伦理域等应用安全风险，并提出了相应的技术应对和综合防治措施。此外，还为人工智能的安全开发和应用提供了指引。
《人工智能安全治理框架》的发布，标志着我国在人工智能领域的安全管理迈出了重要一步，为促进人工智能技术的健康发展和应用提供了规范和指导。框架强调了包容审慎、风险导向、技管结合、开放合作等原则，鼓励创新的同时，确保人工智能的安全和可靠。
文件全文（中文/英文版本）请扫描文首二维码添加客服获取哦~
美、英、欧盟将签署人工智能标准协议，首个具法律约束力的 AI 国际条约
美国、欧盟和英国预计将签署欧洲委员会的人工智能标准协议，这是首个具有法律约束力的人工智能国际条约。该公约由 50 多个国家起草历时两年，包括加拿大、以色列、日本和澳大利亚等。公约要求签署国对 AI 系统产生的有害和歧视性结果负责，系统产出要尊重平等权和隐私权，且人工智能相关侵权行为受害者要有法律追索权。英国科学、创新和技术大臣彼得·凯尔称这是全球范围内应对 AI 挑战的重要第一步，希望有很多国家签署。但也有批评人士对该条约提出异议，因其没有罚款等制裁措施，主要通过监测衡量遵守情况，是一种“相对较弱”的执行形式。
首个 AI 大模型供应链安全国际标准发布，蚂蚁集团、微软、谷歌、百度等数十家单位共同编制
世界数字技术院公众号发布博文，宣布在外滩大会上正式发布国际标准《大模型供应链安全要求》。该标准由云安全联盟（CSA）大中华区联合蚂蚁集团、微软、谷歌、百度等数十家单位的专家共同编制，是业内首个大模型供应链安全国际标准，标志着全球 AI 治理的国际合作迈出坚实一步。云安全联盟（CSA）大中华区主席李雨航表示大模型系统运行依赖全球相互联系的供应链生态系统，该标准为大模型系统提供全生命周期安全管理框架，解决供应链安全问题，确保大模型技术安全和可持续发展。标准涵盖大语言模型（LLM）整个生命周期，从开发训练到部署维护，为每个阶段提供详细指南，强调多层次安全方法，涵盖网络层、系统层、平台和应用层、模型层以及数据层。
产业动态
首个AI法庭AgentCourt：一周打完1000场官司，中科院深圳先进院-得理法律人工智能联合实验室发布
近日，中国科学院深圳先进技术研究院与深圳得理科技有限公司联合宣布，双方合作开发的首个AI法庭系统AgentCourt成功完成1000场模拟官司的演练。AgentCourt是一个基于大语言模型（LLMs）的法庭模拟系统，旨在通过AI驱动的虚拟法庭来革新法律教育、案例分析和法律研究。该系统模拟了完整的法庭程序，包括法官、原告律师、辩护律师等角色，均由AI代理扮演，以提高法律专业技能。
AgentCourt利用中国裁判文书网的数据，编译了一个包含10,000个民事判决的数据集，并精选出1,000个代表性文档用于模拟法庭训练和测试。通过对抗性交互，AI代理的法律推理能力得到了显著增强。实验结果显示，AI律师代理在处理法律任务的能力上有了显著提升，部分AI律师甚至在复杂案件分析、法律推理和辩论策略上超越了人类专家的表现。
AgentCourt的发布预示着法律教育、司法效率、法律服务成本以及法律研究可能迎来重大变革，同时也带来了AI在法律领域应用的伦理挑战。
更多信息可访问：
https://mp.weixin.qq.com/s/QxbR2U5vWnmCF55hLU1k7A
AI 应用月活超 1000 万的国内只有2个
在最新发布的AI产品榜中，微信以13.7亿的月活跃用户数（MAU）和每月25天的月活跃率（MAR）遥遥领先，显示出其超级应用的地位。相比之下，AI领域虽然发展迅速，但与微信等社交平台相比仍有较大差距。据AI产品榜·应用榜（2024年8月）数据显示，国内月活跃用户数超过千万的AI应用仅有两个，而大多数AI应用的月人均使用天数远低于微信。
AI产品榜通过分析AI应用的用户规模和用户粘性，揭示了AI领域在用户活跃度和参与度方面的挑战。尽管AI技术在多个行业中的应用日益广泛，但用户对AI应用的日常使用频率仍有待提高。例如，ChatGPT作为一款代表性的AI产品，虽然拥有2亿的月活跃用户，但用户平均每月仅使用4.34天，与微信的25天相比，用户粘性明显不足。
英国伦敦大卫游戏学院开设由 AI 教授的课程
英国伦敦大卫游戏学院开设了英国首个 AI 教学班。首期班级有 20 名学生，他们依靠 AI 平台和 VR 头显指导学习，AI 系统的 Sabrewing 模型可评估学生优势和劣势并调整课程计划，以实现个性化教育。该班级配备 3 名“学习辅导员”监督学生行为并为课程计划提供支持，在艺术课、性教育等 AI 无法胜任的科目中由人类教职工承担老师责任。
英国“独立学校协会”CEO 对这一计划给予高度评价，认为利用人工智能推动自适应学习方法有可能改变游戏规则，而大卫游戏学院正以严谨的教育专业知识支撑这种创新方法。
智谱荣耀AI大模型技术联合实验室揭牌
智谱和荣耀在北京正式签署 AI 大模型技术联合实验室战略合作协议，智谱 COO 张帆、荣耀产品线总裁方飞、研发管理总裁刘洋等代表出席签约仪式。双方此次深化战略合作，将进一步探索基于用户场景的端侧 AI 智能体验，共同推动智能终端领域大模型技术和应用创新，并通过荣耀折叠屏手机等全场景产品为用户带来更加智慧便捷的 AI 服务。智谱 COO 张帆表示，此次合作将以用户为中心，让 AI 真正服务于人，相信通过双方共同努力，能为用户带来更加个性化、智能化的服务，推动整个智能终端领域的技术进步与产业升级。荣耀产品线总裁方飞表示，与智谱的合作不仅是理念与能力上的互相吸引，也是两个团队追求的契合，双方持续深度合作，将加速智能终端与人的交互变革与深度体验变革，是荣耀在平台级 AI 方向上持续领先的坚实基础。
行业活动
第五届深圳国际人工智能展盛大开幕
得理科技邀您共赴AI盛宴
第五届深圳国际人工智能展（GAIE）即将于2024年9月8日至10日在深圳会展中心（福田）盛大开幕。本届展会以“智创未来·价值链接”为主题，聚焦人工智能领域的最新成果和前沿技术，预计吸引超过60000名专业观众参与。
得理科技，作为法律行业智能化变革的引领者，将亮相此次展会，展示其“深i企”智能法律服务专区、新一代法律数据智能引擎「得理法搜」以及领先的法律AI大模型「小理AI」等创新产品。得理科技诚邀各界人士莅临8号馆8A19展位，共同体验AI赋能法律服务的创新应用。
厦门律协法律AI共创大赛
2024年第二届厦门青年法律人创新文化节之“法律AI共创大赛”已于近日成功举办。本次大赛由厦门市律师协会主办，旨在探索人工智能技术在法律服务领域的创新应用，推动法律行业的智能化发展。
在大赛中，10个经过初评筛选的法律科技服务项目进行了现场路演，展示了如何将AI技术融入法律服务以提升效率和品质。经过专家评委和观察团的评分，3个项目荣获一二三等奖，7个项目获得优秀应用奖。评委们对参赛项目在实用性、推广性、高效性、准确性和合规性等方面给予了高度评价，并提出了建设性的意见和建议。
首个AI大模型攻防赛启动，近100万元奖金池
国内首个大模型攻防主题的“全球 AI 攻防挑战赛”正式启动。赛事聚焦 AI 大模型产业实践，设攻、防双向赛道，包括文生图大模型“数据投毒”攻防实战演练和金融场景大模型生成内容防伪检测竞赛。
“攻击赛道”通过多种动态攻击诱导技术诱发大模型输出风险图像，“防守赛道”聚焦金融场景凭证篡改检测。该赛事由中国图像图形学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，得到多家产学研组织支持，设立近 100 万元奖金池，多位知名专家担任评委。9 月 6 日正式启动报名，11 月初完成赛事评审，选手可通过中国图象图形学学会官网、阿里云天池大数据众智平台官网等渠道报名。
2024云栖大会将于9月19日开幕
2024云栖大会将于9月19日开幕，本次大会将是史上汇集最多AI硬科技的一届，将设置“人工智能+”“计算”“前沿应用”三大主题馆，围绕云计算与AI，全景式展示AI时代云计算最新技术形态与产品进展。2024云栖大会的主论坛将设置三个对话环节，大模型、自动驾驶和机器人领域的领军技术人才和明星创业者将分享AI前沿趋势和应用进展。
据了解，该环节将有月之暗面Kimi创始人杨植麟，阶跃星辰创始人、首席执行官姜大昕，北大-银河通用具身智能联合实验室主任王鹤，星动纪元创始人陈建宇，宇树科技创始人、首席执行官王兴兴，NVIDIA全球副总裁、汽车事业部负责人吴新宙等行业大咖出席。大会将持续三天，除主论坛外，还设有400多个分论坛及并行话题探讨环节，同时开放四万平方米的智能科技展区，展示全球百余款AI应用。
观点报告
IDC 首次发布移动端 AI 大模型应用报告
市场调查机构 IDC 首次发布移动端大模型应用市场竞争力分析研究报告，评估了 8 款热门 Chatbot 聊天机器人模型，包括 kimi 智能助手、豆包、海螺 AI、天工、通义、文心一言、讯飞星火、智谱清言。评估方案初版主要利用现有 App 相关数据，从市场影响力、用户活跃度、用户黏性以及用户体验四大维度，通过 App 下载量、搜索指数、日活、30 日留存率以及用户反馈和功能丰富度等数据进行全方位评估。
2024 上半年智能助手应用领域竞争激烈，百度文心一言、抖音豆包、昆仑万维天工三款产品凭借不同维度优势脱颖而出。文心一言发展较为全面，需提升市场影响力和用户活跃度；豆包在市场影响力、用户活跃度和用户粘性方面出色，但因偏娱乐化定位需提升用户体验；天工功能丰富度高且与搜索引擎融合有优势，但需提升用户活跃度。其他应用也在不同维度展现优势，如 kimi 智能助手长文本知识探索、海螺 AI 是个性化生活顾问、通义侧重逻辑能力、讯飞星火在语音赛道专业、智谱清言主攻决策方向。
牛津大学：重复使用 AI 生成的内容来训练 AI 可造成“模型崩溃”
牛津大学伊利亚·舒梅洛夫博士团队发现当生成式 AI 软件仅依赖 AI 生成的内容时，回答质量会恶化。经过最初两次查询后答案准确性下降，到第九次连续查询时变为无意义胡言乱语，这种现象被称为“模型崩溃”。研究人员通过让 AI 模型基于自身生成内容更新预训练的 AI 驱动维基百科确定了该现象，如第九次查询后维基百科条目内容变得滑稽。
据报道，约 57%网络文本经 AI 算法翻译，若互联网人类生成数据被 AI 过滤内容覆盖且该研究发现属实，AI 可能自我毁灭并影响互联网。研究得出结论，实现 AI 长期可持续发展需确保其能访问非 AI 生成内容并持续引入新的人工生成内容。
Meta科学家杨立昆称用于AI训练的可靠数据来源正在枯竭
Facebook首席人工智能科学家、图灵奖得主杨立昆(Yann LeCun)发文称，用于人工智能训练的可靠数据来源正在逐渐枯竭，相比之下，人工“后期训练”的成本正在快速增长。他表示，如今AI模型于基准测试中的表现已趋于饱和，故目前的大型语言模型不会达到人类智能水平，“但这不意味着它们没有用”。
法律适用
晋江文学城痛批“部分博主偷取多部知名小说喂 AI”：无耻嚣张的侵权行为
晋江文学城官方微博发布长文痛批部分博主使用该平台小说训练 AI、生成文字内容的行为。晋江法务发现小红书平台有博主宣传用晋江作者作品内容生成 AI 文字内容的方法，广泛传播训练 AI 和生成文字内容的演示过程，晋江法务迅速向小红书平台发函维权，网帖已被删除。
晋江坚决抵制用 AI 拼凑文字内容的行为，将持续维护作者合法权益。此次并非网文平台首次出现 AI 相关争议，7 月曾有网文作者称番茄小说签约协议中有“AI 训练补充协议”，后番茄小说上线解除相关条款功能入口。
Clearview AI因非法使用面部识别数据，被荷兰罚款3370万美元
荷兰数据保护监管机构对 Clearview AI 处以 3050 万欧元罚款，原因是其建立包含数十亿张人脸照片的非法数据库，同时警告荷兰公司禁止使用 Clearview 的服务。Clearview 首席法律官称该决定不合法、不可执行，但荷兰数据保护局表示此决定因 Clearview 未反对而无法上诉，且其行为严重违反欧盟《通用数据保护条例》。德新社主席指出面部识别技术不能随意使用，若 Clearview 不停止违规行为将面临额外罚款。Clearview 方面称其不受欧盟数据保护法规约束，因其在荷兰或欧盟无营业地点、客户及受 GDPR 约束的活动。6 月，Clearview 在伊利诺伊州一起诉讼中达成和解，该诉讼指控其大量收集人脸照片侵犯隐私权，和解金额可能超 5000 万美元，且 Clearview 不承认有任何责任，该公司从社交媒体等提取照片创建数据库并出售给企业、个人和政府实体。
-完-
