AI广泛应用，算法公平性重要性突显
发布时间：2021-08-08 19:44:29 所属栏目：大数据 来源：互联网
导读：近日，高考考生考场用小猿搜题的事闹得沸沸扬扬，高考的公平性被挑战，高考公平与否，不仅关系到考生能否平等地享有高等教育的入学机会，甚至关乎其他考生的命运。 高考的公平性也一度成为人们关注的焦点，成为考生和家长们心中敏感脆弱、不能触碰的红线。
|
近日，高考考生考场用小猿搜题的事闹得沸沸扬扬，高考的公平性被挑战，高考公平与否，不仅关系到考生能否平等地享有高等教育的入学机会，甚至关乎其他考生的命运。
高考的公平性也一度成为人们关注的焦点，成为考生和家长们心中敏感脆弱、不能触碰的红线。
如果公平性出现偏差，则会造成很严重的社会后果，对于人工智能来说也是一样。随着AI算法在社会各行业的广泛落地应用，作为辅助人们决策的重要工具，算法的公平性问题正受到越来越多的关注。
近日，腾讯优图实验室联合厦门大学人工智能研究院发布《2021十大人工智能趋势》报告中显示，算法公平性研究将推动AI应用走向普惠无偏见。
由于数据偏差、算法本身缺陷、甚至是人为偏见的存在，现有AI算法普遍存在对于某些特定人群效果不公平的"歧视性现象"。
随着人工智能的发展，机器学习的技术来帮助人们进行决策，其潜在的影响力已经变得越来越大，特别是在具有重要影响力的领域。
因此，考虑一个机器学习系统在做决策时，尤其是有高影响力的决策时，是否会对弱势群体造成更加不利的影响，至关重要。
过去的几年业界已在逐步探索一些针对性的解决方案，包括构建更公正的数据集、算法训练中引入公平性约束损失、提高机器学习算法的可解释性等。
然而，想要确保一个公正、公平而又合乎伦理的结果，不仅仅要面对来自数据科学的挑战，还需要设置人工智能学习程序的人，有巨大的责任和坚韧的信念，以设置出最为公平的程序。
 （编辑：济南站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
站长推荐