本文共字，预计阅读时间。

随着人工智能研究和应用持续加速，相关风险也在同步增加。为了帮助相关机构应对这一复杂局面，麻省理工学院等机构的研究人员于近日发布了人工智能风险库（AI Risk Repository）。这是一个包含数百个人工智能系统所带来的风险的综合数据库，旨在帮助政府、研究和行业决策者评估人工智能不断演变的风险。

给人工智能风险分类带来秩序

虽然许多组织和研究人员已经认识到解决人工智能风险的重要性，但记录和分类这些风险的行动仍然缺乏协调，导致相互冲突的分类系统支离破碎。

人工智能风险知识库通过整合43种现有分类法的信息来应对这一挑战，同时覆盖同行评审文章、预印本、会议论文和报告。该存储库使用二维分类系统。首先，基于风险的原因对风险进行分类，考虑负责的实体（人或人工智能）、意图（有意或无意）以及风险发生的时间（部署前或部署后）。这种因果分类法有助于理解人工智能风险产生的环境和机制。

其次，风险分为七个不同的领域，包括歧视和毒性、隐私和安全、错误信息和恶意行为者以及滥用。

人工智能风险库被设计成一个实时公开的数据库，任意组织均可下载使用。研究小组计划定期利用新的风险、研究发现和新趋势更新数据库。

评估企业的人工智能风险

对于开发或部署AI系统的组织来说，这个风险库为其提供了一份风险评估和缓解的重要清单。

例如，开发人工智能招聘系统的组织可以使用这个信息库来识别与歧视和偏见相关的潜在风险。使用人工智能进行内容审核的公司可以利用“错误信息”领域来了解与人工智能生成的内容相关的潜在风险，并制定适当的保护措施。

研究小组承认，虽然该数据库提供了一个全面的基础，但相关机构仍然需要根据具体情况定制其风险评估和缓解策略。然而，拥有这样一个集中的、结构良好的信息库减少了忽略关键风险的可能性。

塑造未来人工智能风险研究

除了对组织的实际意义，人工智能风险库也为人工智能风险研究人员提供了宝贵资源。数据库和分类法为综合信息、确定研究差距和指导未来的研究提供了一个结构化的框架。

研究团队计划将人工智能风险库作为他们下一阶段研究的基础。

与此同时，随着人工智能风险格局的演变，研究团队将更新人工智能风险存储库，将确保它仍然是研究人员、政策制定者和从事人工智能风险和风险缓解工作的行业专业人士的有用资源。

[Source]

本文系未央网专栏作者发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！

本文为作者授权未央网发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！

本文版权归原作者所有，如有侵权，请联系删除。