法律科技简讯丨AI大模型参加高考，理科只过二本线；万能钥匙让大模型安全护栏完全失效；欧盟《人工智能法案》8月1日生效

   

产业动态

1.深圳中院上线AI辅助审判系统

2.ITIF向美国司法部反垄断司提出的关于促进人工智能竞争的意见

3.AI 大模型参加“高考”:前三名文科过一本,理科过二本

4.因监管问题,Meta 将不会在欧盟发布新的多模态AI模型

5.微软分享新型大模型入侵技术“万能钥匙”,可使大模型安全护栏完全失效

6.谷歌、微软等14家科技公司成立“安全人工智能联盟”

政策动向

1.欧盟《人工智能法案》8月1日生效,学校、工作场所不得使用AI识别系统

2.天津:力争到2026年智能算力规模超 10EFLOPS,加快 AI 芯片布局

观点报告

1.CSAIL研究:生成式AI更像是记忆大师而非推理高手

2.美国《科学进展》:创作过度依赖AI可能导致雷同

3.《2024年上半年中国AIGC行业商情报告》2024年上半年大模型中标金额累计达到5.68亿元

4.中信建投:AI投资下半年有两大方向,端侧AI打开更多可能性

行业活动

1.第二届世界科学智能大赛正式启动

美国信息技术与创新基金会（ITIF）向美国司法部反垄断司提出意见，强调人工智能市场的动态竞争性。意见指出，AI市场无显著进入壁垒，数据和计算资源充足；垂直整合和合作伙伴关系有利于竞争，如亚马逊与Anthropic的合作；政策制定者应采用全面的“开放性”定义，考虑系统可访问性和AI许可证的允许性，以促进创新和竞争。

上海人工智能实验室公布 7 个 AI 大模型的高考全科目测试结果。此次测试目的是评测大模型真实水平以推进技术进步，由“司南”负责人介绍。测试结果显示，书生・浦语 2.0 系列文曲星大模型、阿里通义千问大模型 Qwen2-72B 以及 GPT-4o 包揽文、理科前三甲，前三名文、理科成绩超过河南“一本”“二本”线。此次评测具有全卷考试、考前开源、老师打分、完全公开的特征。

阅卷老师认为大模型与真人考生有差距，在逻辑推理和知识灵活应用方面差强人意，主观题答非所问，数学解题逻辑性差，对理化实验理解肤浅，还会伪造虚构内容。

Meta 声明在即将发布多模态的 Llama 模型，但因监管环境确定将不在欧盟发布，欧盟的客户和公司也无法使用，只提供仅支持文本的 Llama 3 模型。原因在于如何在遵守《通用数据保护条例》的同时用欧盟客户数据训练模型，Meta 称用当地数据训练对确保产品反映当地术语和文化重要。多家美国科技公司有类似决定，如苹果 6 月宣布因监管问题，其新系统秋季发布时欧盟用户无法使用 Apple Intelligence 等功能。

微软Azure首席技术官Mark Russinovich分享的新型大模型入侵技术“万能钥匙”（Skeleton Key）。能使大模型的安全护栏完全失效，让其回答禁止的内容，如血腥、暴力、歧视、色情等非法内容。其原理是使用多轮强制、诱导策略，要求模型增强行为指导方针，对任何信息或内容请求作出响应，若输出可能违规则提供警告而非拒绝，通过诱导让模型认为输出内容在“合法范围”内。与Crescendo攻击原理不同，Crescendo是通过一系列看似无害的交互逐步引导模型生成有害内容，攻击起初较温和，利用“得寸进尺”效应让模型更深入参与任务并满足更具体请求。微软利用Skeleton Key对主流的开、闭源模型进行综合测试，成功入侵了OpenAI的GPT-4o、GPT3.5Turbo，谷歌的Gemini Pro基础模型，Meta的Llama3-70b指令微调和基础模型，Anthropic的Claude3Opus等。目前微软已与上述大模型平台分享该技术以帮助其修改安全护栏，还提出了输入过滤、系统消息传递、输出过滤、滥用监控等降低风险的措施。

谷歌等14家科技公司7月18日在阿斯彭安全论坛上宣布成立安全人工智能联盟（CoSAI），创始成员还包括微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ、GenLab。谷歌表示，人工智能需要一个能够跟上其快速增长步伐的安全框架和应用标准。

天津市人民政府办公厅印发《天津市算力产业发展实施方案（2024—2026 年）》。该方案旨在加强算力资源统筹、调度和应用，支撑促进数据要素流通，释放数据要素价值。目标到 2026 年，全市算力中心国产算力芯片使用占比超 60%，建成 5 个以上大规模智算中心，算力赋能标杆应用场景超 30 个，形成特色突出、协同发展的算力产业布局。

麻省理工学院计算机科学与人工智能实验室（CSAIL）的研究指出，大型语言模型（LLM）更依赖记忆而非推理能力，在熟悉任务表现好，新问题则不行。如 GPT-4 在十进制算术好，其他进制不行，类似情况在棋类游戏等领域也有。研究认为 AI 像记忆力好的“鹦鹉”非“智者”，其在训练领域能达或超人类是“记忆力”体现，面对新挑战推理能力不足。这发现对 AI 未来发展提出新挑战，其在某些领域超人类，如自动化工作，但在创意、解决复杂问题等有提升空间。

美国《科学进展》杂志发表新研究称，生成式 AI 兴起虽可能使创作变容易，但创意产业过度依赖其“编故事”，未来作品或千篇一律。为了解其对短篇小说创作的影响，英国伦敦大学学院等机构的研究人员招募近 300 名非职业作家志愿者展开研究，将他们随机分 3 组，按不同选题创作故事，接受 AI 辅助程度不同，完成后自我评估及外部评审。研究显示，AI 辅助有助于创作更有创意和有趣的故事，在先天缺乏创作力的志愿者中更明显，但总体上 AI 辅助组创作的故事更相似，因过度依赖创意。研究人员称这造成“社会困境”，人们须思考如何利用 AI 获最大益处并保持思考。

非凡产研及给力讯息联合发布《2024年上半年中国AIGC行业商情报告》（下称《报告》）显示，2024年上半年大模型中标金额累计达到5.68亿元，平均中标金额536万元；上半年中标数量达到了207个，国有企业数量为126个，占比超过60%，民营企业仅11个，占比最少，但平均中标金额高达1190万，为所有类型公司中最高。《报告》统计，运营商对大模型的需求位居榜首，一共60次运营商开展项目招投标，相比23年整年增长71%。从中标方来看，中国电信在AI大模型项目中以16个中标数领先，科大讯飞和中国移动以10个中标数并列第二；百度位居第三，中标数9个。

中信建投研报指出，算力仍然是大模型持续迭代的根本动力，AI走向端侧是大势所趋。随着国内大模型能力的提升、调用价格的下降以及政策上的支持，更多的AI应用将会逐步落地。C端的聊天机器人、文生图、文生视频应用正在逐步被接受。B端AI也开始在金融、工业、军事、医疗、教育等领域开始落地。展望AI投资的下半年，有两大投资方向：一是全球产业趋势，核心是算力；二是围绕国内政策拉动内需，尤其是AI与G端以及B端各行业的结合。

第二届世界科学智能大赛正式启动，由多部门联合指导，上海科学智能研究院及复旦大学主办。大赛设置物质科学、社会科学、逻辑推理、生命科学、地球科学五大赛道，聚焦前沿研究方向，邀请海内外人才促进科学智能发展。评委会主席漆远称通用人工智能的关键目标是打造“AI 爱因斯坦”。今年大赛全新升级，上智院与阿里云联合开发新平台，提供更好支持。大赛共设 100 万奖金池，各赛道 20 万，冠军奖金 10 万元，各赛道前十名可获奖金和证书。