IT酋长认识到了人工智能偏见的风险
发布时间：2022-02-21 10:34:51 所属栏目：要闻 来源：互联网
导读：副主席和IT经理副总监（CTO）的350名美国和英国CIO调查报告称，IT决策者正在越来越意识到人工智能（AI）偏见。 根据Datarobot的研究，近于美国和英国的近一半（42％）的AI专业人士表示，他们对AI偏见的非常关注。Datarobot的AI BIAS 2019研究发现，大多数组
|
副主席和IT经理副总监（CTO）的350名美国和英国CIO调查报告称，IT决策者正在越来越意识到人工智能（AI）偏见。 根据Datarobot的研究，近于美国和英国的近一半（42％）的AI专业人士表示，他们对AI偏见的“非常”关注。Datarobot的AI BIAS 2019研究发现，大多数组织（71％）目前依靠AI执行最多19个业务功能。“更多组织正在部署AI，因为他们认为这项技术是在当今商业环境中竞争的关键成功因素，”Datarobot的Trusted AI副总裁Ted Kwartler说。接受调查的IT决策者的几乎五分之一表示，AI用于完成20至49个业务职能，10％表示他们使用AI完成超过50个业务功能。 DataRobot的研究发现，组织使用AI来执行各部门的功能，包括运营（76％），财务和会计（54％），营销（49％），销售（47％）和人力资源（35％）。“我们已经观察到，AI成熟度广泛变化，许多组织仍然使用不值得信任的AI系统，”Kwartler补充道。受调查的IT高管的最大AI偏见涉及包括“损害品牌声誉”和“客户信任损失”。AI战略副主席科林牧师表示：“虽然许多组织已经开始采取合适的步骤来缓解AI偏见 - 例如远离黑匣子系统并建立内部AI指南 - 赢得企业和消费者的信任。 “每个企业都必须使AI偏见教育成为优先事项，因此他们可以在其AI系统中实施关键策略，这将有助于防止其发生。”受访者表示，他们面临开发无偏见的AI算法的挑战，确定培训AI模型的数据，并了解输入数据如何涉及AI决策。调查发现，65％的IT决策者正在使用工具来探索为什么AI造成负面决策。近三分之二表示，他们还使用工具来检查哪些输入数据对AI决策具有最大的影响。刚刚超过一半表示他们使用Word云来查看文本输入与AI决定相关的。 该调查报告称，美国94％的IT领导人和86％的英国IT领导人计划在未来12个月内投入更多地投资AI偏见预防举措。为提升AI偏见预防努力，调查的59％的IT决策者表示，他们计划投资更复杂的白盒系统，其中AI决定是可解释的。超过一半（54％）表示，他们将聘请内部人员来管理AI信任，48％表示他们打算招募第三方公司来监督AI信任。 该调查还报告说，85％的IT领导人参加了调查，认为AI监管将有助于更好地定义构成AI偏差以及如何防止。 （编辑：济南站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
站长推荐
热点阅读