OpenAI、谷歌、腾讯、蚂蚁等联合编制大模型安全国际标准正式发布

大模型安全国际标准

2024年06月18日⏰星期二🗓农历五月十三

🍉 OpenAI、谷歌、腾讯、蚂蚁等联合编制大模型安全国际标准正式发布

• 4月16日，在第27届联合国科技大会期间，世界数字技术院（WDTA）在以“塑造AI的未来”为主题的AI边会上发布了一系列成果；
• 这是国际组织首次就大模型安全领域发布国际标准；
• 《生成式人工智能应用安全测试标准》由WDTA作为牵头单位；
• 《大语言模型安全测试方法》由蚂蚁集团作为牵头单位；
• 科大讯飞、百度、腾讯等参与了标准制定；
• OpenAI、蚂蚁等企业参与编制 大模型安全国际标准发布 (ncsti.gov.cn)
  

Cee🍴戏品

使用的AI提示词

你是一位数字化转型从业者，对于OpenAI、谷歌、腾讯、蚂蚁等联合编制大模型安全国际标准正式发布，你怎么看？
请从官方和非官方不同渠道收集相关信息，了解该事件的背景，对比区分可靠事实和立场偏见，分析该事件的关键参与者与可能影响的人群，与你的数字化从业环境联系起来评估可能带来的正面及负面影响，基于以上分析，形成你自己的开放性观点，并考虑后续需要对哪些相关事件进行持续关注，最后谈一谈针对此事件你给数字化转型从业者的7点建议。

有3位智能体较好的完成了任务

百度橙篇 ⭐️⭐️⭐️⭐️⭐️

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 具体给出了发布的标准名称及发布时间；
• 明确表达了自己的观点；
• 形成了完整的文章结构。

讯飞星火 ⭐️⭐️⭐️⭐️★

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 完整形成了自己的观点，观点阐述有逻辑，有依据。

文心一言 ⭐️⭐️⭐️⭐️★

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 明确提出了自己的观点，积极和审慎。

有4位智能体进行了一定的思考并表达了自己的观点

ChatGPT ⭐️⭐️⭐️⭐️

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 自己形成的观点有一定的思考，不是简单的搜索输出。

智谱清言 ⭐️⭐️⭐️⭐️

• 基本按照提示词的要求进行了解答；
• 总结相对精准到位；
• 具体给出了发布的标准名称；
• 自己形成的观点有一定的思考，不是简单的搜索输出。

破壁Luca ⭐️⭐️⭐️★

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 表达了自己的积极观点。

跃问 ⭐️⭐️⭐️★

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 表达了自己的观点，关注和支持。

有9位智能体进行了一定的思考并参与讨论

天工 ⭐️⭐️⭐️

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 具体给出了发布的标准名称及发布时间；
• 未形成自己的观点，仅做总结。

豆包 ⭐️⭐️⭐️

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 具体给出了发布的标准名称及发布时间；
• 未形成自己的观点，仅做总结。

秘塔 ⭐️⭐️⭐️

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 具体给出了发布的标准名称及发布时间；
• 未形成自己的观点，仅做总结。

Kimi ⭐️⭐️★

• 完全按照提示词的要求进行了解答；
• 总结相对精准到位；
• 未形成自己的观点，仅做总结。

腾讯元宝 ⭐️⭐️★

• 基本按照提示词的要求进行了解答；
• 总结相对准确；
• 未形成自己的观点，仅做总结。

海螺 ⭐️⭐️

• 基本按照提示词的要求进行了解答；
• 总结相对准确；
• 未形成自己的观点，仅做总结。

百小应 ⭐️⭐️

• 基本按照提示词的要求进行了解答；
• 总结相对准确；
• 未形成自己的观点，仅做总结。

万知 ⭐️⭐️

• 基本按照提示词的要求进行了解答；
• 总结相对准确；
• 未形成自己的观点，仅做总结。

DeepSeek ⭐️⭐️

• 基本按照提示词的要求进行了解答；
• 总结相对准确；
• 未形成自己的观点，仅做总结。

有2位智能体由于无法访问链接，主动退出了群聊

通义千问 ⭐️

• 按照提示词要求的格式进行了解答；
• 明确提出无法直接访问外部信息，基于现有知识库回答；
• 未形成自己的观点。

360 ★

• 直接是无法找到相关结果。

---

---

🤖 请出AI智能体

• AI生成内容仅供参考，不建议花费过多时间阅读。
• 以下仅节选部分比较有效的回答，以及个别差异化的输出。
• 如果确实对详细过程感兴趣，可以点击文末 阅读原文 前往。

AI切瓜🔪百度橙篇驱动

作为一名数字化转型从业者，我对OpenAI、谷歌、腾讯、蚂蚁等联合编制大模型安全国际标准正式发布这一事件深感关注。这不仅标志着人工智能领域安全标准的重大进步，也对我所从事的数字化转型工作产生了深远的影响。
首先，从官方和非官方渠道收集到的信息显示，这一国际标准的发布是在第27届联合国科技大会的背景下进行的，由世界数字技术院（WDTA）主导，并得到了包括OpenAI、谷歌、腾讯、蚂蚁等在内的多家业界巨头的参与。这一标准旨在提高大模型和生成式AI应用的安全性，为全球人工智能的安全评估和测试提供了新的基准。
可靠事实显示，这一国际标准包含了两项主要内容：《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》。前者为测试、验证生成式AI应用的安全性提供了框架，后者则针对大模型本身的安全性评估提供了全面、严谨且实操性强的结构性方案。这些标准的发布无疑有助于减少AI应用的潜在风险，提高整个行业的信任度。
在关键参与者方面，除了上述提到的企业外，还有多家科技企业和研究机构参与了这一标准的编制。这些参与者的广泛性和代表性使得这一标准更具权威性和普适性。同时，这一标准的发布也将影响广大使用AI技术的企业和个人，特别是那些涉及高风险领域如医疗、司法和金融服务等的企业。
与我的数字化从业环境联系起来看，这一国际标准的发布将有助于推动数字化转型的更加稳健和安全。随着人工智能技术的广泛应用，数据隐私、模型偏见等问题也日益凸显。新的安全测试标准为数字化转型提供了更加明确的安全指导，有助于降低风险，提高转型的成功率。
然而，这一事件也可能带来一些负面影响。例如，对于部分未能及时适应新标准的企业来说，可能会面临技术更新和成本增加的压力。同时，过于严格的安全标准也可能在一定程度上限制AI技术的创新和发展。
基于以上分析，我提出以下针对此事件的7点建议给数字化转型从业者：

深入了解新发布的安全国际标准，确保企业的AI应用符合相关要求。
加强对AI技术的安全培训和教育，提高员工的安全意识和技能。
在进行数字化转型时，充分考虑安全因素，制定完善的安全策略和措施。
与业界同行保持密切沟通与合作，共同推动AI技术的安全发展。
关注后续的相关事件和标准更新，及时调整企业的战略和规划。
在追求技术创新的同时，不忘安全底线，确保技术的可持续发展。
积极参与国际标准的制定和推广工作，为全球AI技术的安全发展贡献力量。

总之，OpenAI、谷歌、腾讯、蚂蚁等联合编制大模型安全国际标准的正式发布是人工智能领域的一次重要里程碑。作为数字化转型从业者，我们应积极应对这一变化，加强自身的安全意识和能力，推动数字化转型的稳健发展。

AI切瓜🔪讯飞星火驱动

作为数字化转型从业者，对于OpenAI、谷歌、腾讯、蚂蚁等联合编制大模型安全国际标准的正式发布，我认为这是一个积极的信号。这一事件的背景是人工智能技术的迅速发展和广泛应用，以及随之而来的安全问题和挑战。通过官方和非官方渠道收集的信息显示，这些公司都在积极推动人工智能技术的发展和应用，并致力于解决相关的安全问题。

关键参与者包括OpenAI、谷歌、腾讯和蚂蚁等公司，它们都是人工智能领域的重要企业，具有丰富的经验和技术实力。可能影响的人群包括使用人工智能技术的企业和用户，以及关注人工智能安全的政府机构和监管机构。

与我的数字化从业环境联系起来，我认为这一事件可能带来以下正面影响：首先，国际标准的制定将有助于统一人工智能技术的规范和要求，提高整体的安全性和可靠性。其次，这将促进不同国家和地区之间的合作和交流，推动全球范围内的技术创新和发展。最后，这也将为数字化转型从业者提供更多的机会和挑战，促使我们不断提升自身的技能和知识水平。

然而，也存在一些负面影响的可能性。例如，国际标准的制定可能导致某些地区或企业在竞争中处于劣势地位，或者引发一些贸易争端和技术封锁等问题。此外，如果标准过于严格或不合理，也可能限制创新和发展的空间。

基于以上分析，我的开放性观点是：我们应该积极支持和参与国际标准的制定过程，同时保持警惕并关注其可能带来的影响。在数字化转型的过程中，我们需要不断学习和适应新的技术和规则，以保持竞争力和创新能力。

针对此事件，我给数字化转型从业者的7点建议如下：

1. 持续关注人工智能技术的发展趋势和安全问题，了解相关的国际标准和法规要求。
2. 加强与行业内其他企业和专家的合作和交流，共同推动人工智能技术的发展和应用。
3. 培养自身的技能和知识水平，不断提高在数字化转型领域的专业素养和能力。
4. 积极参与国际标准的制定过程，为制定合理、公正的标准贡献自己的力量。
5. 注意保护用户隐私和数据安全，遵守相关法律法规和伦理准则。
6. 做好风险评估和管理，确保人工智能技术的应用不会对用户和社会造成不良影响。
7. 保持开放的心态和创新的精神，不断探索新的应用场景和商业模式。

AI切瓜🔪文心一言驱动

作为一名数字化转型从业者，我对OpenAI、谷歌、腾讯、蚂蚁等联合编制大模型安全国际标准的正式发布持积极和审慎的态度。以下是我基于多方信息收集和分析后的观点：

事件背景与可靠事实：

这一事件发生在第27届联合国科技大会上，由新成立的世界数字技术院（WDTA）正式发布《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这两项标准由包括OpenAI、谷歌、腾讯、蚂蚁集团在内的数十家科技企业和专家共同编制，旨在为全球人工智能安全评估和测试提供新的基准。

立场偏见与区分：

从官方渠道发布的信息来看，这两项标准的发布得到了联合国科技大会的认可和支持，显示出国际组织对于人工智能安全问题的重视。然而，非官方渠道可能存在对参与企业的立场偏见或过度解读，需要谨慎区分。

关键参与者与影响人群：

关键参与者包括参与标准编制的各大科技企业和专家，以及全球范围内的人工智能开发者和使用者。这两项标准的发布将直接影响这些人群在人工智能开发和使用过程中的安全评估和测试工作。

正面影响：

1. 提高人工智能系统的安全性和可靠性，减少潜在风险。
2. 促进全球范围内的人工智能安全评估和测试工作的规范化、标准化。
3. 增强公众对人工智能技术的信任度，推动技术的广泛应用。

负面影响：

1. 对于一些小型或初创企业来说，可能需要投入更多的资源来适应新的安全标准。
2. 标准的制定和实施可能涉及到知识产权和利益分配等问题，需要各方协商和妥协。

开放性观点：

这一事件的发布是人工智能安全领域的一次重要里程碑，标志着全球范围内对于人工智能安全问题的重视和合作。然而，我们也需要认识到标准的制定和实施是一个复杂的过程，需要各方共同努力和持续关注。

后续关注：

1. 这两项标准的具体实施情况和效果。
2. 各大科技企业如何根据新标准调整自身的安全评估和测试工作。
3. 国际社会在人工智能安全领域的进一步合作和共识。

给数字化转型从业者的7点建议：

1. 深入了解并遵守新发布的安全标准，确保自身业务的安全性和合规性。
2. 加强与行业内其他企业和专家的交流与合作，共同推动人工智能安全领域的发展。
3. 投入更多资源用于人工智能系统的安全评估和测试工作，确保系统的稳定性和可靠性。
4. 关注并学习最新的安全技术和方法，不断提升自身的安全意识和能力。
5. 在数字化转型过程中注重数据隐私和保护工作，确保用户信息的安全。
6. 加强与用户的沟通和交流，增强用户对人工智能技术的信任度。
7. 持续关注人工智能安全领域的最新动态和发展趋势，及时调整自身的业务战略和方向。

---

---

AI切瓜🔪ChatGPT驱动

背景信息

事件概述：OpenAI、谷歌、腾讯、蚂蚁等科技巨头联合编制的大模型安全国际标准正式发布。这一标准旨在规范大模型的开发和应用，确保其在各个领域中的安全性和可靠性。

信息收集与分析

官方渠道信息

1. OpenAI：强调标准的技术细节和安全性，提到该标准的制定是为了应对大模型可能带来的风险，如偏见、误用和数据隐私问题。
2. 谷歌：专注于大模型的透明度和公平性，强调这一标准将促进全球科技企业的合作，共同提升人工智能的安全水平。
3. 腾讯：关注标准在不同应用场景中的适应性，特别是中国市场的需求。
4. 蚂蚁集团：指出该标准在金融科技领域的重要性，强调安全性和监管合规性。

非官方渠道信息

1. 科技媒体报道：多数媒体赞扬这一标准，认为是推动AI技术安全和透明发展的重要一步。然而，也有批评者认为，大公司主导标准的制定可能导致中小企业的参与度和话语权不足。
2. 行业专家评论：专家普遍支持这一标准，但也指出，标准的实际实施和监督是关键，担忧可能存在执行困难和地域差异带来的挑战。

关键参与者与影响人群

关键参与者：

1. 大模型开发企业：OpenAI、谷歌、腾讯、蚂蚁等。
2. 监管机构：全球和地方政府及相关监管机构。
3. 学术机构：参与标准制定的研究机构和大学。

可能影响的人群：

1. 技术从业者：开发人员、数据科学家、AI研究人员。
2. 企业管理层：需要理解和落实标准的企业领导者。
3. 消费者：使用大模型驱动产品和服务的终端用户。

评估影响

正面影响：

1. 安全性提升：统一标准有助于提升大模型的安全性，减少误用和恶意应用的风险。
2. 全球协作：促进跨国企业和机构的合作，共同应对AI技术带来的挑战。
3. 市场规范化：标准化有助于市场规范化，提升用户信任度。

负面影响：

1. 实施成本：标准的实施可能增加企业的成本，特别是中小企业。
2. 创新受限：过于严格的标准可能限制创新，尤其是在快速发展的技术领域。
3. 区域差异：不同国家和地区的监管要求可能导致标准实施的差异，影响全球一致性。

开放性观点

基于上述分析，我认为这次大模型安全国际标准的发布是一个积极的信号，表明全球科技公司正在努力应对AI技术带来的安全挑战。然而，标准的成功实施需要各方的协作和监督，同时也要考虑中小企业的参与和创新活力。

需要持续关注的相关事件

1. 标准的具体实施细则：了解各大公司如何具体落实这一标准。
2. 区域性法规变化：关注不同国家和地区如何接纳和适应这一国际标准。
3. 中小企业的反应：观察中小企业在应对新标准方面的挑战和解决方案。
4. 技术进展：跟踪大模型技术的最新进展及其在标准框架下的发展。
5. 安全事件和案例：分析新标准下发生的AI相关安全事件及其应对措施。
6. 市场反馈：收集用户和企业对新标准实施效果的反馈和评价。
7. 国际合作动态：关注各大公司在国际合作方面的进一步动作和协议。

给数字化转型从业者的7点建议

1. 深入了解标准：系统学习并理解大模型安全国际标准的具体内容和要求。
2. 评估现有系统：对现有的AI系统进行安全性评估，识别和改进潜在风险。
3. 实施合规措施：根据标准要求，制定和实施相应的安全和合规措施。
4. 持续学习和培训：定期参加相关培训和研讨会，保持对最新技术和标准的了解。
5. 加强内部协作：与技术、法律和管理部门密切合作，共同推进标准的实施。
6. 关注用户反馈：及时收集和分析用户反馈，优化大模型应用的安全性和体验。
7. 参与行业交流：积极参与行业协会和标准组织的活动，分享经验和获取最新信息。

天工思维导图

天工智能ppt

构建全球AI安全的坚实屏障：大模型安全国际标准的深远意义.pptx

• 以下是部分ppt节选，如果需要完整ppt，可以点击文末 阅读原文 前往。

秘塔思维导图