屏蔽婴儿保姆的AI公司停止发射

Predictim的网站称该公司已被反馈“淹没”，无限期推迟全面推出，而其高管“专注于评估我们如何提供服务并进行更改以解决我们收到的一些建议。”该网站表示不会生成新的扫描并提供退款。

停止标志着许多人批评的服务突然出现，这是一种令人不安的象征，即算法在判断和预测人类行为方面正在发挥作用。

Predictim - 现在用于分析求职者的几种人工智能服务之一 - 扫描婴儿保姆的社交媒体，并提供对保姆的个性的自动评估，包括他们有“不良态度”的风险。

公司高管周五早些时候没有回复评论请求，他们认为社交媒体扫描服务是一种重要的工具，可帮助父母在他们亲近孩子之前阻止冒险或“天生邪恶”的保姆。他们此前曾辩称，该服务可以控制偏见和隐私问题，并且公众批评是错误的。

“华盛顿邮报”与几位家长进行了交谈，他们表示，人格筛选影响了他们对保姆性格的看法，以及一名小保姆，他惊讶地发现自动化系统已将她标记为欺凌和不尊重的风险。

最近几周，Facebook，Twitter和Instagram阻止了该服务的大部分访问，称其社交媒体扫描违反了用户监控和数据隐私的规定。公司高管上个月末表示，他们不受这些限制的影响，并打算开始将更多数据(例如保姆的博客文章)纳入其分析中。

研究人员和AI Now研究所的联合创始人凯特克劳福德称这项服务“容易出错，基于破碎的假设和隐私入侵。更糟糕的是 - 这是雇主和求职者之间不断增长的权力不对称的可怕症状。低薪工人不会选择退出。“

（编辑：济南站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!