为什么需要人工智能监管？

[Habib01]

人工智能的潜力带来了巨大的风险，因此监管成为必要。最紧迫的担忧之一是可能产生有害结果。例如，刑事司法中使用的人工智能系统已经表现出偏见，对边缘化社区产生了不成比例的影响。如果管理不当，人工智能可能会加剧现有的社会不平等。

此外，“黑匣子”问题是人工智能特有的挑战。许多人工智能系统的工作方式甚至连其创造者都无法完全解释。如果没有透明度，就很难理解这些系统如何做出决策，从而引发有关问责制的问题。

偏见是另一个关键问题。人工智能系统的好坏取决于它们所训 伊朗电话数据 练的数据，如果这些数据反映了社会偏见，人工智能也会如此。这可能会导致招聘、贷款和执法等领域出现不公平的结果。

2023 年，《福布斯》报道了针对 UnitedHealthcare （美国最大的健康保险公司）的集体诉讼，指控其通过使用人工智能算法不当拒绝老年患者的长期护理请求。

如果没有监管框架，社会可能无法为这些经济变化做好准备，从而导致不平等和不稳定。请务必查看我们的文章《医疗保健中的人工智能：增强诊断、个性化治疗和简化操作》；探讨人工智能如何影响医疗保健的未来，以及企业如何利用新的人工智能技能和技术维持生计。

最后，随着自动化的普及，人工智能可能会扰乱劳动力市场，取代工人。麦肯锡报告称，当前的生成式和其他人工智能技术有潜力实现工作活动的自动化，而目前这些工作活动占用了员工多达 70% 的时间。

这些变化将意味着欧洲和美国多达1200万工人将不得不换工作。一些工人可能需要再培训和提高技能方面的帮助，才能在新市场中具有竞争力。

人工智能监管现状
让我们看一下确保人工智能工具公平使用的现行立法和法规：

欧盟人工智能监管
2021 年 4 月提出的《欧盟人工智能法》是欧盟 (EU) 首个旨在监管人工智能的综合法律框架。欧盟人工智能法是欧盟人工智能办公室制定的一项创新举措，旨在规范欧洲人工智能的未来。它旨在减轻人工智能系统带来的潜在风险，同时促进欧洲人工智能市场的创新和竞争力。

欧盟人工智能法是围绕基于风险的监管方法构建的，该方法根据人工智能系统对人类和社会造成的风险程度对人工智能系统进行分类。该法将人工智能系统分为四个不同的风险类别：